12月19日,一年一度的英伟达GPU技术峰会在江苏苏州结束。
12月18日,英伟达创始人兼首席执行官(CEO)黄仁勋以“加速计算”为主题进行了长达两个小时的重磅演讲,其中提到的最受关注的当属面向自动驾驶和机器人的芯片NVIDIA DRIVE AGX Orin,以及最新一代推理软件开发套件NVIDIA TensorRT 7编译器。
“我们已进入了一个机器可以实时理解人类语言的AI新时代。”黄仁勋在演讲中说。
英伟达CEO黄仁勋。
“加速计算是我们领先了20年的领域,我们并不是要去替代CPU,而是把一些应用加速。”黄仁勋在演讲中称,英伟达用一套统一的架构,借助通用型的GPU芯片,赋能从游戏、自动驾驶、到医疗、云计算数据中心在内的广泛的智能应用场景。迄今为止,英伟达已经售出了15亿块GPU芯片。
12月18日发布的NVIDIA TensorRT 7编译器是英伟达第七代推理软件开发套件,为实现更加智能的AI人机交互打开了新大门,从而能够实现与语音代理、聊天机器人和推荐引擎等应用进行实时互动。与在CPU上运行时相比,会话式AI组件速度提高了10倍以上,从而将延迟降低到实时交互所需的300毫秒阈值以下。
黄仁勋在演讲中说:“我们已进入了一个机器可以实时理解人类语言的AI新时代。TensorRT 7使这成为可能,为世界各地的开发者提供工具,使他们能够构建和部署更快、更智能的会话式AI服务,从而实现更自然的AI人机交互。“
据了解,全球一些最大、最具创新性的公司已在使用NVIDIA的会话式AI加速功能。在首批使用NVIDIA会话式AI加速能力的企业中,包括了阿里巴巴、百度、滴滴出行、美团、快手、平安、搜狗、腾讯和字节跳动等一些中国最具创新力的领先企业。
搜狗公司为全球使用频率最高的手机应用程序微信,提供搜索服务。
英伟达当天还发布了用于自动驾驶和机器人的高度先进的软件定义平台NVIDIA DRIVE AGX Orin。
英伟达自动驾驶芯片Orin。
该平台内置全新Orin系统级芯片,该芯片由170亿个晶体管组成,Orin系统级芯片集成了英伟达新一代GPU架构和Arm Hercules CPU内核以及全新深度学习和计算机视觉加速器,每秒可运行200万亿次计算,几乎是英伟达上一代Xavier系统级芯片性能的7倍。
Orin可处理在自动驾驶汽车和机器人中同时运行的大量应用和深度神经网络,并且达到了ISO 26262 ASIL-D等系统安全标准。
作为一个软件定义平台,DRIVE AGX Orin能够赋力从L2级到L5级完全自动驾驶汽车开发的兼容架构平台,助力OEM开发大型复杂的软件产品系列。
英伟达和滴滴出行当天还宣布滴滴将使用NVIDIA GPU和其他技术开发自动驾驶和云计算解决方案。滴滴将在数据中心使用NVIDIA GPU训练机器学习算法,并采用NVIDIA DRIVE为其L4级自动驾驶汽车提供推理能力。滴滴在8月将其自动驾驶部门升级为独立公司。