芯东西(公众号:aichip001)
作者 | 心缘
编辑 | 漠影
芯东西1月27日报道,刚刚,NVIDIA公布通过NVIDIA认证系统测试的全球首批加速服务器,它们是目前业内唯一通过现代工作负载测试的服务器,可用于机器学习和分析。
通过NVIDIA认证系统的产品将带有NVIDIA认证系统标识,从而可证明这些系统符合NVIDIA最佳设计范例。这些系统通过使用NVIDIA Mellanox网络连接的NVIDIA最新GPU为AI提速。
戴尔科技、技嘉、慧与、浪潮和超微的认证服务器均于今日供货。
一、企业AI使用量倍增
根据Gartner,目前37%的企业机构在生产中使用了AI,预计到2024年这一比例将翻倍至75%。
例如,美国运通用最新AI模型进行实时欺诈检测;福特用生成式对抗网络(GAN)生成测试自动驾驶汽车所需的数据;达美乐用AI改进其每年30亿份披萨订单完成时间的预测;还有很多企业将AI用在零售、物流、银行、医疗健康等行业。
随着领先企业更多引入AI技术,对用于处理AI工作负载的服务器系统的需求日益迫切。
NVIDIA认证系统提供企业AI所需的性能、可编程性和安全吞吐量。这些系统结合了基于NVIDIA Ampere架构的GPU计算力与安全、高速的NVIDIA Mellanox网络。
为了通过认证,这些系统必须接受广泛的工作负载测试,涵盖从需要多个计算节点的工作到只需要使用单个GPU部分性能的任务等。
二、首批NVIDIA认证系统测试的服务器系统
首批使用NVIDIA A100 Tensor Core GPU的系统包括:
(1)戴尔EMC PowerEdge R7525和R740机架服务器;
(2)技嘉R281-G30、R282-Z96、G242-Z11、G482-Z54、G492-Z51系统;
(3)慧与Apollo 6500 Gen10系统和慧与 ProLiant DL380 Gen10服务器;
(4)浪潮 NF5488A5;
(5)超微A+服务器AS-4124GS-TNR和AS-2124GQ-NART。
这些产品均带有NVIDIA认证系统标识,证明其符合NVIDIA最佳设计范例,同时也代表它们可以处理机器学习、数据分析等领域最棘手的任务。
三、可使用和全球最强AI计算机相同的软硬件
这些系统均经过优化,可以运行NVIDIA GPU优化应用中心NGC目录中的AI应用。
NGC是一个不断扩大的软件开发套件中心,这些套件可以将AI引入医疗健康(Clara)和机器人(Isaac)等垂直市常此外,它还包含帮助企业在推荐系统(Merlin)和智能视频分析(Metropolis)等新兴用例中起步的框架。
具体而言,NVIDIA认证系统必须通过深度学习训练和推理、机器学习算法、智能视频分析、网络和存储卸载等测试。
这些测试基于现实世界的用例,使用NGC目录中常用的AI框架和容器。因此通过NVIDIA认证系统,每家公司均可使用和全球最强大AI计算机背后相同的软硬件。
据悉,全球最大的云服务提供商和全球十大超级计算机中的八台均由NVIDIA技术驱动。此外,采用NVIDIA技术的系统在MLPerf等AI基准测试中领先。
结语:近70个系统已参与NVIDIA认证系统计划
NVIDIA认证系统包括功能强大的数据中心服务器,内置多达8个A100 GPU和高速InfiniBand或以太网网卡。此外,还有为在企业网络边缘运行AI而量身定制的主流AI系统。
OEM厂商对使用NVIDIA Mellanox电缆、交换机和网卡(如ConnectX-6 InfiniBand或以太网网卡和BlueField-2 DPU)的系统进行认证。这些网卡既能同时保证低延迟与高吞吐量,还支持从启动时的硬件信任根,到应用连接追踪等多层网络安全措施。
所有使用NVIDIA Mellanox 8700 HDR 200G InfiniBand交换机或Mellanox SN3700以太网交换机的系统均已获得认证。
另外,所有NVIDIA认证系统均可提供涵盖整个软件堆栈的企业级支持,包括对开源代码的支持。
截至目前,来自6家系统制造商的14台服务器已通过认证,以提供加速计算。至少有11家系统制造商的近70个系统参与了这一认证计划。