此前英伟达的首席科学家兼研究高级副总裁Bill Dally在GTC 2022上,分享了一些英伟达研发方面的信息,其中涉及了使用机器学习(ML)和人工智能(AI)技术,进行开发、改进和加速GPU设计。
在过去的数年时间里,英伟达在AI和ML领域的努力不容忽视,其GPU成为了不少数据中心和HPC的首眩
目前英伟达主要使用最先进的EDA(电子设计自动化)工具来设计GPU,同时还运用了一种名为PrefixRL的人工智能模型,使用深度强化学习优化并行前缀电路,让英伟达可以设计出面积更小的芯片,同时能提供相似或更好的性能。
据英伟达的介绍,在最新的Hopper架构GPU上拥有将近13000个电路实例,而这些实例完全由AI创建。从英伟达展示的对比图可以看到,基于PrefixRL AI设计的64b加法器电路与传统的EDA工具相比,面积减少了25%,但速度和功能是等效的。
训练PrefixRL这样的模型是一项计算密集型任务,物理模拟需要256个CPU用于每个GPU,训练64b案例需要超过32000个GPU小时。英伟达为此开发了Raptor,这是一个内部分布式强化学习平台,利用英伟达硬件的独特优势进行强化学习。
英伟达表示,这应该是第一种使用深度强化学习代理来设计算术电路的方法,希望这种方法可以成为将AI应用于现实世界电路设计的问题。