展会信息港展会大全

打破AI算力垄断!为芯片国产化打造测试底座
来源:互联网   发布日期:2023-04-16 07:19:54   浏览:6021次  

导读:解密上海城市数字化转型体验馆明星展品公共算力服务平台 作者/IT时 报记者郝俊慧 编辑/钱立富 孙妍 4月7日,上海城市数字化转型体验馆揭牌开馆。体验馆集中展现了正在打造国际数都的上海经济数字化转型的创新之力、生活数字化转型的惠民之策、治理数字化转...

解密上海城市数字化转型体验馆明星展品公共算力服务平台

作者/IT时报记者郝俊慧

编辑/钱立富孙妍

4月7日,上海城市数字化转型体验馆揭牌开馆。体验馆集中展现了正在打造“国际数都”的上海经济数字化转型的“创新之力”、生活数字化转型的“惠民之策”、治理数字化转型的“智慧之治”。610项展品中,上海电信公共算力服务平台作为明星展项之一脱颖而出,成为媒体和观众关注的焦点。

这并不奇怪。外有ChatGPT,内有文心一言、通义千问,这场席卷全球的AI大模型风暴,让“算力焦虑”成为各大公司的常态,而电信运营商集硬件资源、计算环境、平台服务、智能调度于一体,为用户提供一站式、普惠式的算力、算网、算法的公共服务性平台,不仅能够缓解大公司的“焦虑”,更能帮助中小企业搭上这趟以算力为动力的快速列车。更重要的是,通过公共算力服务平台对国产AI芯片开展测试验证功能,打破“算力垄断”,帮助国产算力快速规模化,从而解决高性能算力面临的“卡脖子”问题。

“作为算力国家队,电信运营商在算力规模、算力应用、算力环境三个维度都要发力,推进中国算力产业发展。”中国电信上海公司总师室总工程师助理肖晴告诉《IT时报》记者,算力是未来智能世界的关键要素,中国要尽快发挥云网融合优势,补齐短板,拿到这张“船票”。

为AI初创企业降低门槛

2022年7月,上海电信在全国率先发布公共算力服务,面向上海企业提供一站式、普惠式算力、算网、算法服务的试用。申请企业无需自建算力基础设施,便可以在云端直接调用算力,完成图形渲染、AI深度学习、高性能计算、云游戏、3D应用以及企业本地云、边缘云、专属视频云等需求。

同时,公共算力服务平台让人工智能的使用门槛大大降低,比如施工工地上,是否有工人没有做好安全防护?老年社区里,是否有人员跌倒……管理部门可以根据视频监控,直接调用算法模型,便可以实现城市智能治理。

“公共算力服务平台成立的重要意义之一,是促进人工智能初创企业发展,推进人工智能产业生态建立。”肖晴认为,随着大模型的走红,越来越多的AI创新需要用到大算力、海量数据的复杂训练模型,但通用AI算法模型训练是典型的“大力出奇迹”,像ChatGPT每次训练成本超过500万美元,而公共算力平台则可以通过持续训练优化算法模型,帮助中小企业和科研机构降低企业成本。

像“订外卖”一样调度算力

当然,算力基础设施建设并不能一蹴而就。为了解决算力标准化统一供给难题,2023年,上海电信研发了异构算网一体化调度平台,平台通过自研调度引擎,按网络距离、资源池成本、PUE等维度预设调度策略,做到算力动态感知和作业智能分发调度,实现了远端计算、近端部署。

你可以将这个平台理解为一个“外卖平台”,通过上海电信天翼云能力中心自研的智能调度引擎开放接口,可以接入不同来源的算力资源池,包括大学和科研机构的超算中心、某企业的算力资源池等。用户的每次算力作业需求,就像是下一单“外卖”,由平台根据调度策略,安排最近或者最顺路的“小哥”送货,也即提供算力,而且每次订单智能分发的路径、执行过程和进度都可以实时在线跟踪。

听起来简单,实际上,调度平台实现了三个“跨越”:第一,跨越不同资源池,实现了算力最优原则选用;第二,跨越不同云厂商,打个比方,通过电信骨干网,原本部署在A云商的智能算力作业任务,可以跨域调用B云商的算力,这是电信运营商独有的优势;第三,跨越算力类型,无论作业任务需要的是通用算力、智能算力还是超算算力,都可以实时满足。

让人人都有“AI助手”

最近,中国几家互联网大厂连续发布大模型,让ChatGPT引发的这股通用大模型浪潮,一浪高似一浪。作为国内最早布局云计算和大数据AI的电信运营商,中国电信早在去年推出了自己的星河AI平台,并和上海人工智能实验室面向城市治理方向,联合研发了业内首个面向城市治理真实业务的通用大模型“星河”通用视觉模型。

据了解,星河模型以数亿段视频资源进行训练,以解决城市治理实际问题和降低大模型门槛和成本为导向,将模型的参数量控制在10亿级别,以尽量小的模型规模、尽量短的训练周期和尽量低的计算资源情况下,达到更大模型的效果。结果显示,该大模型训练周期和研发投入缩短了70%以上。赋能下游任务算法后,所需样本量可减少90%。在部分下游任务中,性能效果超出专用模型10%以上。

中国电信还将进一步加强与大模型头部企业的合作,在公共算力平台上部署大模型,“大模型+强算力”将大大提升公共算力服务的赋能水平,使得人工智能应用开始步入“寻常百姓家”,让每个人可以拥有自己的“ChatGPT”助手,算力变成每个人都能享受的权力。

同时,为了解决类“ChatGPT”应用可能造成的隐私泄漏,上海电信正在研发公共数据共享模式,公共算力服务平台将使数据在不脱离监管的情况下进行人工智能训练,并将训练所得到的专用算法模型在特定范围内进行共享,既可以保护数据隐私,又可以节约政府和企业投入,实现专用算法的最优积累,形成场景的最佳实践。

加速算力国产化

上海是我国数字经济发展的“排头兵”,具有良好算力基矗截至2022年末,上海正在运行的互联网数据中心有122个,机架总数超过18万个。

上海也是中国算力指数最高的城市。中国信通院发布的《2022年中国综合算力指数》显示,上海市是唯一一个算力指数分值超70的省市,算力规模近14E FLOPS(FP32),在用算力规模全国排名第一。同时,上海正在积极推进算力“绿色化”,2022年的PUE 平均指数降至1.40,远低于全国1.55的平均指数。

为构筑人工智能算力发展新高地,在政府部门指导下,上海电信还在青浦打造国家“东数西算”节点和算力调度平台,在临港建设高等级算力中心。青浦国家一体化数据中心项目作为国家“东数西算”节点,预计三季度开工,临港算力项目一期规划1.35万个机架,预计2023年6月提供首批机架能力。

然而,在智能算力市场,由于英伟达和AMD高端算力芯片对中国限售,国产算力厂商在基础技术、产业生态方面存在“卡脖子”难题,应用创新也受到高端芯片采购限制。于是,上海电信搭建多厂商智能算力测试平台,针对多款国产算力芯片开展国产算力评估测试、现网场景迁移验证,并积极参与智算中心相关的上海市地方标准制定测试,为算力“国产化”打造测试平台底座。

至此,上海电信从顶层规划角度,构建一个集硬件资源、计算环境、平台服务、智能调度为大成的“一站式”服务创新平台,并通过自身算力的突破和创新的商业模式,赋予用户更多元、更优化的产品服务,同时将算力转化为更大的科研和产业价值。

排版/ 季嘉颖

图片/ IT时报

来源/《IT时报》公众号vittimes

E N D

赞助本站

人工智能实验室
AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港