展会信息港展会大全

Meta全新自研AI芯片曝光:性能相比MTIA v1提升了3倍!
来源:互联网   发布日期:2024-04-12 15:42:02   浏览:10249次  

导读:4月11日消息,在英特尔、谷歌相继推出最新的AI芯片之后,Meta于当地时间10日也公布了全新的自研AI芯片下一代MTIA(Next Gen MTIA)。 去年,Meta推出的首款自研AI芯片MTIA(MTIA v1)采用的是台积电7nm制程,而下一代MTIA同样是交由台积电代工,不过制程工艺...

Meta全新自研AI芯片曝光:性能相比MTIA v1提升了3倍!

4月11日消息,在英特尔、谷歌相继推出最新的AI芯片之后,Meta于当地时间10日也公布了全新的自研AI芯片“下一代MTIA”(Next Gen MTIA)。

去年,Meta推出的首款自研AI芯片MTIA(MTIA v1)采用的是台积电7nm制程,而下一代MTIA同样是交由台积电代工,不过制程工艺升级到了5nm。并且,下一代MTIA配备更多处理核心,片内存储(on-chip memory)也翻倍到了256MB(MTIA v1 仅有128MB),off-chip LPDDR5也提高到了128GB(MTIA v1 为 64GB),主频也从800MHz上升到了1.35GHz,当然功耗也增加到了90W(MTIA v1 为 25W)。

Meta表示,在四个关键模型中,“下一代MTIA”性能比MTIA v1提升了3倍,“由于我们控制整个堆叠,所以与商用GPU相比,可以达成更高的运算效率。”

Meta透露,“下一代MTIA”目前已投入16个数据中心区域使用。不过,目前Meta还没有使用“下一代MTIA”训练生成式AI,尽管该公司声称有多项项目正在进行。此外,Meta承认“下一代MTIA”不会取代目前用于训练模型的GPU,而是补充运算资源。

对于头部的云服务厂商来说,亚马逊已经推出了多款自研AI芯片和Arm服务器CPU。微软去年也已AI芯片Azure Maia 100和服务器CPU Azure Cobalt 100。谷歌近日也向Google Cloud客户推出用于训练AI模型的TPU v5p,并发布了首款为数据中心设计的Arm构架Axion CPU。

Meta近年不遗余力加强AI技术开发,自行研发定制化AI芯片以满足自身的运算需求。该公司一直是英伟达H100 GPU的大客户,今年底前Meta运算基础设施预计采购达到35万颗H100。同时Meta也在加速推进自研MTIA系列AI芯片的进程,以降低对于英伟达的依赖,并降低采购成本。

编辑:芯智讯-林子

赞助本站

相关内容
AiLab云推荐
展开

热门栏目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能实验室 版权所有    关于我们 | 联系我们 | 广告服务 | 公司动态 | 免责声明 | 隐私条款 | 工作机会 | 展会港