一直以来,高通在推动终端侧人工智能芯片的应用方面不遗余力。现在这家全球最大的手机芯片提供商又推出了面向数据中心推理计算的云端AI芯片Cloud AI 100,正式宣告进入云端AI芯片市常
迄今为止,作为终端侧最主流的人工智能芯片解决方案,骁龙人工智能芯片已经为市面上超过10亿部智能手机提供AI运算加速,越来越多的手机用户享受到人工智能芯片带来的智慧体验与便利。显然,高通并不想只局限于终端侧人工智能芯片领域,随着Cloud AI 100这款云端AI芯片的发布,高通把终端侧AI的技术和规模优势转移到云端AI芯片领域,全新的Cloud AI 100云端AI芯片和其他云端AI芯片解决方案(GPU、CPU 和 FPGA)相比,在性能功耗上能够达到10倍的提升,和高通骁龙处理器的终端侧AI 计算能力相比则至少有50倍的提升。这款云端AI芯片的问世将为当今数据中心AI推理加速市场树立全新标杆。
据市场调研公司预测,用于数据中心的云端AI芯片市场规模将从2018年的25亿美元增长到2023年的212亿美元。仅AI推理这一细分市场从2018年到2025年将有10倍的增长,达到170亿美元。从云端AI芯片的用量来看,AI推理芯片使用场景广泛,需求量巨大。在2019年旧金山举办的AI Day会议上,高通宣布推出的这款Cloud AI 100云端AI芯片,就是专为满足急剧增长的云端AI推理处理的需求而设计。同时将基于骁龙AI芯片的终端侧AI技术优势拓展至数据中心,从云到端全面塑造人工智能生态。
经过多年的技术演进,骁龙AI芯片已经成为智能手机处理器行业的标准,在性能不断提高的同时,低功耗、少发热已经成为骁龙AI芯片在设计上的核心优势,现在这两个优势不仅可以被手机终端消费者所享受,现在也惠及到云端服务器、数据中心。一直以来,降低用电、减少发热都是服务器、数据中心迫切想要实现的目标。当前AI服务器行业使用的其他计算架构,很可能会出现明显的电力损耗、产生大量热能等问题,Cloud AI 100这款云端AI芯片从高通自家的骁龙AI芯片的架构设计和制造工艺中汲取灵感,使云端AI芯片的运行效率有了极大改善,因此其同等性能下的功耗只有竞争对手们的十分之一。此外Cloud AI 100这款云端AI芯片,还有一个明显的优势,那就是这款云端AI芯片并非特别隶属服务器应用项目,而是卡式设计作为协同处理器提供运算加速,同时在整体配置上也没有做太大限制,主要针对运算规模进行弹性布署,可以将云端AI芯片以插卡形式“即插即用”到云端服务器上,使用非常方便。
不仅使用方便、功耗低,更重要的是Cloud AI 100云端AI芯片性能强悍。由7纳米制程工艺打造,支持业界领先的软件栈,包括PyTorch、Glow、TensorFlow、Keras和ONNX,这个云端AI芯片的峰值AI性能将达到350 TOPS,可以高速执行密集的浮点和整数运算。与传统的现场可编程门阵列 (FPGA) 相比,Cloud AI 100这款AI芯片在推断任务方面比目前最先进的AI推理解决方案平均速度要快10倍左右。区别于纯CPU、CPU+FPGA之后的第三代高性能AI计算体系,Cloud AI 100这样的专用于推理计算的云端AI芯片在架构上本身就更适合专门类型的机器学习推理计算。
凭借更高的AI算力、更节能环保的设计、更方便的快捷的使用方式,Cloud AI 100云端AI芯片将为服务提供商带来更强大的在线AI体验,让用户真正体会到AI的好处。在这个“应用为王”的时代,将云端AI芯片作为新的游戏平台,这便是Cloud AI 100的“完美应用场景”之一。一直以来,游戏过程中的延时和卡顿都是让玩家痛心疾首的致命伤,在云端服务器上执行的高能效AI推理可以减轻移动终端的AI处理负荷。在2019年深圳人工智能开放日活动上,高通联合vivo、腾讯王者荣耀开发团队和腾讯AI Lab,一起演绎了一场专业游戏电竞赛。通过MOBA类游戏场景的实验环境来不断提升和优化AI电竞战队的实力,为移动电竞带来体验的升级和优化,由此可以看出移动游戏将是最能发挥Cloud AI 100极致性能的应用。而腾讯云也可能成为国内首批Cloud AI 100云端AI芯片的用户。
显而易见,Cloud AI 100这款人工智能芯片的发布是高通正式参与云端AI芯片领域的标志,凭借Cloud AI 100云端AI芯片的性能优势,预计到2025年,该芯片市场规模将达到 6630万美元。云端人工智能芯片领域一个有很大增长潜力的新兴市场,高通以全新的云端AI芯片产品切入进去将为自身业务开辟新的领地。当Cloud AI 100云端AI芯片量产后,其强悍性能会真正落在实处,为消费者带来智慧生活体验的全新改变。