2017年09月26日上午,NVIDIA在北京召开2017GTC大会,推出全新NVIDIA®TensorRT3 AI推理软件,该软件能够大幅提升从云端至终端设备(包括无人驾驶汽车和机器人)的推理性能并降低成本。
黄仁勋介绍,搭配TeslaV100 GPU加速器的TensorRT每秒能够识别多达5,700张图片,而如今所用的CPU则每秒仅能识别140张图片。
除了TensorRT3以外,黄仁勋还发布了能够实现AI加速的软件。其中包括能够大规模提供实时、低延迟视频分析的DeepStreamSDK、以及能够加快HPC和深度学习应用速度的加速计算软件平台CUDA的最新版本