展会信息港展会大全

AI推理时代:算力能耗瓶颈下的“密钥”何在?
来源:互联网   发布日期:2024-11-16 07:10:16   浏览:95次  

导读:智东西(公众号:zhidxcom)作者 | 程茜编辑 | 漠影2024年,千行百业对AI推理的需求将呈现出爆发式增长,行业对算力的需求远远超越以往。在这样的形势下,如何突破能耗瓶颈,进而获取更充足的算力,已经成为每个企业迫在眉睫且亟待解决的关键问题。然而,当前的现实情况是有效算力供给已无法满足算力需求:一方面,从储备到应用的算力需求都愈发旺盛,OpenAI CEO召集全球投资者 ......

智东西(公众号:zhidxcom)

作者 | 程茜

编辑 | 漠影

2024年,千行百业对AI推理的需求将呈现出爆发式增长,行业对算力的需求远远超越以往。在这样的形势下,如何突破能耗瓶颈,进而获取更充足的算力,已经成为每个企业迫在眉睫且亟待解决的关键问题。

然而,当前的现实情况是有效算力供给已无法满足算力需求:一方面,从储备到应用的算力需求都愈发旺盛,OpenAI CEO召集全球投资者组建联盟为大模型构建基础设施,马斯克的无人驾驶出租车Cybercab为科技行业描绘了未来感十足的面面,还有性能愈发强大的GPT-o1等模型层出不穷。

另一方面,数据中心的算力潜能尚未被完全挖掘出来。数据中心常被认为是“耗电怪兽”,因为服务器运行伴随着热量释放,温度一旦超过极限值,服务器性能就会显著降低,限制数据中心算力发挥。于是各类创新技术涌现,试图让数据中心再次突破能效瓶颈,释放出被束缚的算力潜能。

这背后的关键变量就是冷却技术,液冷技术作为推手帮助数据中心一次次突破制约。就在联想集团Tech World上,联想集团董事长兼CEO杨元庆与NVIDIA创始人兼CEO黄仁勋,这两大全球科技行业顶尖企业的领军者同台,联合发布全新液冷AI服务器,勇闯“最大工业革命”。

今天,伴随2024/2025财年Q2财报,联想集团发布《Game of AI》系列知识科普视频的第二集《数据中心:如何与世界交换算力》。

视频延续桌面电影形式,通过《权力的游戏》风格的开场片头,复刻北境冰雪气候变化,打造亦真亦幻的三维沙盘动画,以此紧扣液冷主线。

同时,视频还以两条科技树线索,介绍了数据中心和能效的角逐演进历程,采用冰雪白为主的配色方案与模拟芯片的三维结构,融入液冷主题。

视频中以第一人称桌面电影的创新手法,让观众跟随存在于2100年未来时空,以科技历史学家李约瑟为原型的智能体,并通过它的主观视角展开了一场算力史与能源技术史的探究,如何通过计算重构世界,以及其中的可持续发展路径,发现液冷技术在释放数据中心算力中的关键作用。

一、提升能效、维持功耗,数据中心效率革命正当时

联想集团最新发布的第六代Neptune海神液冷解决方案,可以为生成式AI高效计算提供动力。这在当下对于数据中心算力效率提升的重要性不言而喻。

通过视频中联想集团梳理的数据中心百年发展历史,我们发现,数据中心的算力与能效密切相关,二者共同掌握着能量密码。

人类对算力的利用由来已久,但随着信息技术革命到来,算力的性能和规模迎来爆发,算力需求逐渐多元化,深入汽车、大模型等各种应用场景。

2024年,算力提升的关键已经从狂堆硬件转向提升效率,如今数据中心需要的革命是基建效率的角力。目标是在充分利用数据中心已有硬件设备的基础上,使其发挥出更高能耗并提供更强大的算力。视频以桌面电影第一视角,通过网页、文件等多样化载体提取信息,给观众带来更多操控互动感受。

在明确数据中心效率这一概念的同时,需要先搞清楚一个指标TDP热设计功耗。这指的就是当芯片达到最大负荷时热量释放的指标,也是冷却系统要面对的重大挑战。

一旦超过这一极限值,处理器的温度继续升高,就会导致数据中心的性能降低,让芯片发挥计算能力的前提就是,处理器运行过程中产生的热量和冷却技术的散热能力达到平衡。

因此提升基建能效,将其从能耗制约下拯救出来的关键就是冷却技术。二者相互制约又相互关联,共同决定了数据中心的稳定运行和能源利用效率。

数据中心和能效两条技术路线交织前进的同时,一步步助推AI产业的技术创新与应用落地加速实现,加速智能时代到来。

二、冷却技术:算力历史长河中的关键脉络

算力工具从仅凭大脑运算到机械计算机、电子计算机,形态几经变迁,已经从数据中心的无限扩张转移到基建效率的角力上。

联想集团以桌面电影的形式,让我们亲身体验了计算的百年历史。视频中通过更契合冷却与算力主题模拟芯片三维结构,展现出数据中心变迁的关键环节。最初图灵机理论出现,奠定计算的设计理念,由虚拟机器替代人类进行数学运算。再到1946年运算速度达到了手工计算20万倍的ENIAC出现,1951年第一台商用计算机UNIVAC I首次拥有存储能力,为现代计算机的体系结构奠定了基础。

再到后面,20世纪60年代分时操作系统使得计算开始通用,计算机的处理器占用被切分,可以让多人同时使用计算机。

计算性能的大幅提升,随之而来的就是散热系统的工作负荷急剧增加。视频以水上、水下逐步揭示数据中心明线与能效暗线,通过水中浮起等细节动画,让人沉浸其中。

早期风冷技术是数据中心散热的主要方式之一,20世纪90年代出现的机架式服务器就是数据中心的初始形态,但因为空间紧凑、设备密度较高,风冷无法再满足散热需求。

机械冷却登上历史舞台,空调通过压缩机、冷凝器、蒸发器等核心部件的协同工作,产生低温冷风带走热量。从而使冷却技术在互联网首次蔓延,第一次拯救了算力。

冷却技术拯救算力的第二大节点,就是高性能计算集群的出现。高性能计算集群将单机柜功耗直线拉升百倍,达到50kW,冷却技术再遇瓶颈,空调无法满足如此快速、高效散热的需求。

其中的标志性事件就是联想集团2012年推出的海神Neptune温水水冷技术。其率先提出了适用于高密度计算环境的温水水冷技术,使用45℃~50℃的温水在冷却板和循环水路中循环,达到降温的效果。视频通过对温水水冷服务器进行首次全方位拆解,结合图表、动画,深入浅出展现了温水水冷技术。

该技术通过全水冷无风扇设计,使服务器散热效率达98%,并实现90%的余热回收再利用,降低42%的能耗,数据中心PUE可降至1.1,同时其总体成本低于风冷。

这之后,液冷技术全面爆发,成为高性能计算的主流选择。

液冷技术的发展为数据中心能效提升,开辟了一条行之有效的路线,并为大模型时代的算力注入了新的动力。

三、液冷AI时代释放澎湃算力的 “动力源泉”

AI时代下半场,百模大战落下帷幕,GPU、CPU、TPU、服务器演化出千百种形态,AI军备竞赛的焦点,正从模型向数据中心转移。

AI训练和推理的算力需求激增,对数据中心的需求水涨船高。一张GPU的功率飙升至1000W,单机柜功率密度增至100kW。

随之而来的就是对冷却系统的又一次严峻考验。这是因为在高功率密度的环境下,设备单位体积内产生的热量会大幅增加,就需要散热系统的工作效率更高,才能快速带走热量保证设备持续运转。

联想集团2024 Tech World大会上发布的全新液冷AI服务器,搭载第六代海神液冷系统,具备突破性的垂直液冷设计方案。视频通过三维动画直接对该系统进行了拆解,更为直接的呈现了其内部构造。

凭借ThinkSystem N1380 Neptune和新的ThinkSystem SC777 V4 Neptune,联想集团率先在不需要专用数据中心空调的情况下就可以运行100kW以上的服务器机架,这一设备就是专为大模型而打造。

在优化部署方面,液冷服务器可竖直放置,能在提升空间利用效率的同时,进一步增强散热效果,这在此前的液冷系统中并不多见。

其还采用精巧封装设计,包含8个托盘槽、4个15kW功率转换站以及Neptune水流分配系统。

基于这样的优化设计,第六代海神技术使得数据中心的PUE趋近于1.0的极限,这也意味着整个数据中心设备对能源的利用率接近100%。

视频画面穿越数据中心的服务器,看到了海神液冷系统为解决数据中心能耗问题带来的希望。

但这并不是液冷技术的终场战局。如今,算力需求汹涌向前,联想集团通过颠覆机柜、机房固有格局,用全面液冷的超大型AI集群解决方案液冷集群微模块,为AI产业的突破装载了推进器。

视频中通过逼真写实风格的服务器形态切换三维动画,再辅以鼠标手动操作方式,让观众直观感受了从服务器模块到机柜再到液冷微模块的重构过程。

液冷集群微模块的出现,成为数据中心的最优解之一,液冷技术第三次释放了数据中心的算力能耗限制。

从高性能计算时代,到AI时代的下半场,联想集团持续引领液冷解决方案设计,加速算力的释放。液冷技术的革命日益受到广泛而密切的关注,并对数据中心产业链、供应链产生革命性影响。

结语:液冷成可持续算力保障,AI加速向实

算力已经成为人工智能进入真实的产业环境中不可或缺的核心要素,液冷技术更高效地带走高温,使算力可持续,让数据中心源源不断与世界交换算力。

黄仁勋在与杨元庆对话时提到:“现在,我们正在以前所未有的规模重塑计算领域的整个架构。现在,速度就是可持续性,速度就是表现力,速度就是能源利用率。”

如今,AI重塑整个世界运行逻辑,算力正是其坚实的底座。正如联想集团打造的视频结尾所说,“服务器与数据中心作为千行百业的基础设施建设,将重新定义AI作为生产力的能量源泉,并以世界之力再造世界”。

赞助本站

AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港