展会信息港展会大全

千卡智算集群火速上线WAIC,国产大模型迎来“芯”突破
来源:互联网   发布日期:2024-07-04   浏览:417次  

导读:随着2024世界人工智能大会(WAIC)的盛大开幕,我们见证了中国人工智能领域的又一次技术跃迁。百款大模型悉数亮相,其中不乏智谱AI、MiniMax、阶跃星辰等国产通用大模型新锐势力的身影,无不展现了国内AI的发展提速。 在日益激烈的全球AI技术竞争下 ......

随着2024世界人工智能大会(WAIC)的盛大开幕,我们见证了中国人工智能领域的又一次技术跃迁。百款大模型悉数亮相,其中不乏智谱AI、MiniMax、阶跃星辰等国产通用大模型新锐势力的身影,无不展现了国内AI的发展提速。

在日益激烈的全球AI技术竞争下,海外市场凭借先进的GPU算力、较高的人才密度等,不断刷新大模型基础能力的边界。尽管当前一批国产大模型已经涌现,但其长远发展仍面临国产算力短缺、高端AI芯片供应受限、海外技术封锁等诸多挑战。为了在国际舞台上保持竞争力,推动自主可控的国产智算中心建设变得至关重要。

近日,算丰信息携手优刻得,与国内主流AI芯片厂商达成深度合作,在优刻得青浦智算中心上线首个「国产千卡智算集群」,打造强大的国产通用GPU算力底座,已经成功支持千亿参数级别的国产大模型研发与验证。

中国芯+中国云,强化国产大模型技术自主性

千卡智算集群火速上线WAIC,国产大模型迎来“芯”突破

高性能计算芯片是大模型发展的基石,国产通用GPU的研发和应用对于国产智算集群的壮大具有重要意义。我们的国产智算集群正是基于国产通用GPU所建设,有效突破了GPU算力瓶颈,规避了硬件层面的“卡脖子”,加速国产大模型的自主研发和技术创新。

基于国内知名AI芯片厂商所自研的高性能GPU IP,算丰信息和优刻得共同打造的国产智算集群具有强大的多精度混合算力、64G大容量高带宽显存以及多卡互联技术,能够显著提升计算效率和准确性。目前,智源研究院正基于该国产GPU算力底座,实现更加高效的模型研发,并论证了国产芯片在收敛性上对于千亿模型训练的有效性。

灵活、兼容、易用,支撑千亿大模型训推

优刻得是中立、安全、纯内资的云科技企业,投建的乌兰察布和上海青浦两大智算中心恰好位于国家“东数西算”产业集群内,可提供高功率机柜、高吞吐存储系统、高速率算网、异构算力调度等系列智算基础设施服务,为国产智算集群的构建积累了丰富的产品及工程能力。

算丰信息是专注于推动企业智能化进程的先锋企业,可提供1000P纯国产“丰收系列”算力池,以及GPU租赁、服务器租赁及私有化部署等相关业务服务。公司自主研发的先进机器学习框架与算力调度系统,为企业提供了强大的软件平台和应用工具。

在投资布局上,算丰信息聚焦于国产核心算力组件的研发与创新,与优刻得的智算技术和运营服务能力强强联手,国产千卡智算集群采用软硬件一体化的架构设计,可提供低延迟、高吞吐、高可用的IB组网环境,支持GDR技术,使得集群在算力获取、数据传输和算力调度等方面具有极高的效率,能够胜任超千卡规模、千亿参数级别的大模型训推任务。

国产智算集群全面兼容CUDA等主流GPU生态软件栈,并提供完善高效的软件栈工具,集成多种主流的深度学习编程框架,助力企业实现零成本业务迁移和快速适配。当下,优刻得与算丰信息共同构建了自主可控的产业链,确保国产算力服务的高质量与技术先进性。

WAIC期间,优刻得受邀参加由市工商联、市经信委主办的“AI赋能民营经济产业创新发展”主题论坛,并在圆桌对话环节,探讨如何发展民营经济的新质生产力。

千卡智算集群火速上线WAIC,国产大模型迎来“芯”突破 优刻得智算产品线总经理丁振雷

优刻得智算产品线总经理丁振雷表示,当前AI技术已成为新质生产力的关键驱动力,相较于海外地区,中国多样的应用场景有望为AI应用提供丰富入口。除了构建安全可靠的大模型智算基础设施,优刻得以灵活、易用的智算云服务,不断助力行业大模型落地应用;此外,优刻得通过协同产业链上下游合作伙伴,合建合营国产智算中心,以自主可控的国产智算解决方案,不断激发民营企业的创新活力。

赞助本站

相关内容
AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港