展会信息港展会大全

专家:中国ChatGPT野心因缺乏Nvidia A100 GPU等先进AI芯片而受到威胁
来源:互联网   发布日期:2023-03-03 09:33:29   浏览:5017次  

导读:为了训练像ChatGPT这样的人工智能(AI)机器人所需的大型语言模型(LLM),中国可能不得不依赖图形处理单元(GPU)的数量而不是质量,因为美国切断了最先进的芯片。企业家和工程师说。 中国人工智能协会董事会的一位人工智能技术企业家在最近的一次闭门研讨...

“为了训练像ChatGPT这样的人工智能(AI)机器人所需的大型语言模型(LLM),中国可能不得不依赖图形处理单元(GPU)的数量而不是质量,因为美国切断了最先进的芯片。”企业家和工程师说。

中国人工智能协会董事会的一位人工智能技术企业家在最近的一次闭门研讨会上将LLM称为现代的蒸汽机时表示,美国在计算能力方面领先中国主要是因为它在GPU方面的优势,GPU在机器学习方面比中央处理器(CPU)具有独特的优势,因为它们使用同步计算的方式。

“我们没有像A100那样强大的显卡,但我们可以将功能较弱的GPU放在一起,以数量取胜,”这位企业家谈到英伟达的数据中心芯片时说,美国已阻止向中国出口。

他和这个故事中引用的其他人一样,由于这个话题的敏感性,要求不透露姓名。“我认为计算能力仍然是赢得未来竞争的一个非常重要的决定性因素。

自去年11月由微软支持的初创公司OpenAI开发的ChatGPT推出以来,聊天机器人的惊人普及引发了大型科技公司之间的竞赛,以开发自己的生成AI产品版本。

这已经延伸到中国,互联网搜索公司百度,TikTok所有者字节跳动,社交媒体和视频游戏巨头腾讯控股,以及电子商务巨头阿里巴巴集团控股,南华早报的所有者,都把帽子扔进了擂台。.

然而,专家警告说,中国在生产像ChatGPT这样的产品时面临一些重大障碍,这可能会受到审查制度或对先进半导体的日益限制的阻碍。当谈到用于训练AI的芯片时,GPU是关键成分。

rendForce 集邦咨询今日发布报告称,生成式 AI 是通过 GAN、CLIP、Transformer、Diffusion 等算法、预训练模型、多模态等 AI 技术的整合。数据、算力、算法是深耕生成式 AI 不可或缺的三大关键。

报告指出,由于生成式 AI 必须投入大量数据进行训练,为缩短训练就得采用大量高性能 GPU。以 ChatGPT 背后的 GPT 模型为例,其训练参数从 2018 年约 1.2 亿个到 2020 年已暴增至近 1800 亿个。

TrendForce 集邦咨询预计,GPU 需求量预估约 2 万颗,未来迈向商用将上看 3 万颗(本文计算基础以 NVIDIA A100 为主)。生成式 AI 发展将成为趋势,将带动 GPU 需求显著提升,连带使相关供应链受益。

据介绍,其中最大受益者是 GPU 芯片龙头的英伟达(NVIDIA),旗下可达到 5 PetaFLOPS 运算性能的 DGX A100,几乎是目前用于大规模数据分析、AI 加速运算的首眩此外,尚有推出 MI100、MI200、MI300 系列芯片的 AMD。

2022 年 10月,华盛顿禁止英伟达在没有许可证的情况下向中国客户出售 A100 及其更强大的 H100 GPU,这是美国领导的减少中国获得先进芯片的更大努力的一部分。

英伟达后来表示,它为中国客户提供一系列规格较低的替代产品。这包括A800,其性能降低以满足出口要求。

该芯片具有足够的计算能力来满足大多数客户的需求,据英伟达在中国的合作伙伴Sitonholy的销售经理说,该公司为AI服务器和其他高性能计算设备提供解决方案。

中国的GPU卡生态系统还不够强大。许多卡提供商仍在将其产品的性能与Nvidia V100进行比较,“他说,指的是该公司于2017年发布的数据中心GPU。

他补充说,即使中国芯片制造商能够设计出像A100一样复杂的GPU,鉴于目前的美国制裁,制造它们是另一个障碍。

中国芯片集团清华紫光旗下子公司西安UniC半导体有限公司的一位董事也指出了获得先进芯片制造技术的挑战。

“如果某些AI和GPU芯片的计算能力超过[美国设定的]限制,流片可能会面临限制,”他周三表示,指的是大规模生产之前的试制过程。

“以前,中国有机会将其芯片制造提高到5纳米或7纳米,但对先进工具的限制使这变得非常困难。

2022 年10月,美国大幅加强了出口管制规则,旨在进一步限制中国获得某些高端半导体和尖端芯片制造工具的机会,这些工具可以使先进芯片的本地生产成为可能。

美国还利用所谓的长臂法规来阻止代工厂使用美国原产技术生产可为中国客户每秒执行超过4,800 tera操作的芯片。

中国国内芯片设计和生产仍然严重依赖进口软件、工具等技术,这种对成熟和先进节点工艺的依赖性在短期内难以减少。

尽管如此,开发GPU并不是“黑魔法”,因此中国有机会赶上类似ChatGPT的技术,英伟达的一位高级工程师说。

“它只是慢了一点,但差距可能会累积起来变得相当大,”他说。

赞助本站

人工智能实验室
AiLab云推荐
推荐内容
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港