划重点
1
在人工智能芯片领域，英伟达依然是无可争议的霸主，不过许多初创公司正准备发起挑战。
2
d-Matrix和Rain Neuromorphics等初创公司表示，他们的芯片可以帮助企业降低大模型训练成本。
3
Tiny Corp和Modular等公司正在开发替代英伟达编程语言Cuda的软件，以减少对英伟达CPU的依赖。
4
许多早期创立的人工智能芯片公司多以破产告终，目前崛起的这批公司被视为第二波挑战者。
在用于训练人工智能模型的图形处理单元（GPU）市场，尽管AMD和英特尔等竞争对手正在努力追赶，但英伟达依然牢牢地占据着霸主地位。不过，许多雄心勃勃的初创公司正加入这场竞争，他们推出了人工智能芯片的替代设计，声称比英伟达的GPU更好、更高效。其他初创公司则瞄准了英伟达的应用编写软件，这类软件促使公司持续使用英伟达的芯片。
与英伟达的产品相比，d-Matrix和Rain Neuromorphics等初创公司正在努力推销自己的芯片和软件，称它们可以帮助企业降低训练和运行机器学习模型的成本。Tiny Corp和Modular等公司则在开发英伟达编程语言Cuda的替代品，Cuda可以让开发者加速他们的应用程序，并且只能与英伟达的GPU兼容工作。
目前参与人工智能芯片竞争的初创公司中，三家（Qyber、Modular以及MatX）由曾效力于谷歌的工程师所创立。谷歌销售的人工智能芯片旨在与英伟达竞争。这是一个明显的迹象，表明雄心勃勃的科技企业家认为，尽管面临着财力雄厚的竞争对手，但他们可以在这个领域取得进展。
几家致力于尖端芯片设计的初创公司还没有将产品推向市常其中包括Lightmatter，该公司开发了使用晶体管和激光组合的芯片，即光子计算，它可以更快的速度、更少的能源传输数据。这些公司认为，自己的产品可以更经济的方式，让企业构建开发大语言模型所需的超级计算机。
第二波人工智能芯片创企崛起
我们在这里介绍八家初创公司，他们正试图挑战英伟达在人工智能芯片领域的霸主地位。2017年，至少有十几家初创公司试图在人工智能芯片领域向英伟达发起挑战。然而，随之而来的大清洗提醒人们，这些创企面临着高昂的成本和竞争挑战。
2017年比较受关注的两家公司，KnuEdge和Reduced Energy Microsystems都已经倒闭。另一家公司Wave Computing在2020年申请破产，次年以新名称MIPS重新出现。据科技网站The Register报道，另一家人工智能芯片初创公司Mythic的前工程副总裁在职业社交网站领英上写道，该公司去年已经耗尽现金。今年早些时候，Mythic宣布任命新CEO，并获得了1300万美元融资。
Cerebras生产的大规模人工智能芯片整合了许多英伟达GPU的处理能力，而SambaNova Systems似乎是早期竞争对手中最有能力挑战英伟达的公司。在上一轮融资热潮中，他们和Graphcore一起以数十亿美元的估值进行了几轮大型融资，目前正在销售产品。
新一代人工智能芯片初创公司面临多重挑战，首先是英伟达作为训练机器学习模型标准的稳固地位。英伟达在最新财报中表示，截至7月30日的过去三个月里，该公司营收达到135亿美元，其中大部分来自数据中心业务。
更重要的是，尽管最近投资者对人工智能充满热情，但初创公司面临的融资环境比上一代创业者更为严峻。风险投资、私募股权和并购数据库PitchBook的数据显示，人工智能芯片初创公司获得的风险投资从2021年的95亿美元下降到今年上半年的略高于10亿美元。
此外，这些初创公司还面临着进入流片阶段的技术复杂性和高昂成本挑战，还需要将设计完成并交付给台积电等制造商尽快投产。尽管如此，创始人和投资者都认为，生成式人工智能将改变计算领域的许多部分，这足以鼓舞他们从英伟达身上分一杯羹。
以下为准备挑战英伟达的八家创企：
1.Modular
成立时间：2022年
创始人：克里斯拉特纳（Chris Lattner，首席执行官）、蒂姆戴维斯（Tim Davis，首席产品官）
投资方：GV、Greylock Partners、Factory HQ以及SV Angel
股权融资总额：3000万美元
简介：Modular致力于为训练和运行机器学习模型制作开发平台和编程语言。它允许用户从一系列人工智能工具中进行选择，包括谷歌首先开发的开源软件TensorFlow，以及最初由Meta开发的开源软件PyTorch。然后，Modular用户可以在一系列服务器芯片上运行他们的模型。这些芯片可以来自英伟达，也可以来自英特尔、AMD。
构建和运行人工智能应用程序需要大量的计算能力。人工智能开发人员抱怨说，在试图控制计算成本时，很难在不同类型的芯片之间移动他们的软件。今年5月，Modular推出了其有限预览版产品，其理念是让工程师更容易在任何类型的硬件上运行模型，从而在性能和成本之间取得平衡。
Modular尚未披露其定价结构，其产生的收入也很少。但两位创始人的背景鼓舞了投资者。该公司首席执行官拉特纳此前在苹果公司负责编程语言Swift的开发，随后与Modular的联合创始人兼首席产品官戴维斯一起在谷歌工作，两人负责公司的人工智能产品开发。早些时候有报道称，Modular最近正在进行新一轮融资谈判，估值为6亿美元。
2.MatX
成立时间：2022年
创始人：雷纳波普（Reiner Pope，首席执行官）、迈克冈特（Mike Gunter，首席技术官)
投资方：Outset Capital、SV Angel以及Homebrew
股权融资总额：未知
简介：MatX正在开发用于文本应用程序的大语言模型（LLM）专用芯片。这些芯片被设计成比英伟达GPU等硬件运行得更快、更便宜，后者支持包括图像生成在内的多种人工智能应用。
前谷歌员工创立了这家初创公司。MatX的首席执行官波普曾帮助这家搜索巨头建立了大语言模型Pathways，并编写了高效运行模型的软件。MatX的首席技术官冈特负责张量处理单元的研发，这是谷歌专门的人工智能硬件，与英伟达的GPU竞争。这家初创公司在其网站上表示，它已经得到了几家风险投资公司的支持，但它尚未发布产品，也没有宣布筹资额度。
这家总部位于加州山景城的公司还得到了许多LLM研究人员的支持，包括Palo Alto Networks公司首席商务官阿米特辛格(Amit Singh)。目前还不清楚MatX是否有客户，但该公司表示，它得到了“知名LLM公司的大力支持”，其中包括OpenAI和Anthropic等初创公司。该公司创始人没有回应采访请求。
3.Qyber
成立时间：2022年
创始人：纪尧姆韦尔登（Guillaume Verdon），汤姆哈布雷格森（Tom Hubregtsen）
投资方：Hof Capital和Julian Capital
股权融资总额：未知
简介：据知情人士透露，Qyber正在开发一种专门为运行LLM而设计的芯片。
这家秘密创业公司是由X（Alphabet“登月工厂”）前研究人员创立的，他们专注于量子计算。Qyber网站对其计划含糊其辞，有一个页面上写着：“下一个计算时代并未消亡，它还活着。” 根据PitchBook的数据，去年11月，Qyber从总部位于纽约的风险投资公司Hof Capital和总部位于旧金山的种子阶段投资基金Julian Capital筹集到了资金。知情人士透露，该公司最近与潜在投资者讨论了新一轮筹资事宜。
4.Rain Neuromorphics
成立时间：2017年
创始人：戈登威尔逊（Gordon Wilson，首席执行官）、杰克肯德尔（Jack Kendall，首席技术官）、胡安尼诺（Juan Nino，首席科学顾问）
投资方：Airbus Ventures、百度风投、FoundersX Ventures、萨姆奥特曼（Sam Altman）以及丹尼尔克罗斯（Daniel Gross）
股权融资总额：3300万美元
简介：Rain Neuromorphics现在被称为Rain AI，旨在帮助使用传统GPU训练和运行机器学习模型的企业降低高昂成本。
这些成本在一定程度上源于这些芯片在从内存和处理组件传输数据时产生的热量。这需要不断冷却GPU，从而推高了数据中心的电力成本。Rain AI首席执行官威尔逊表示，该公司的芯片和软件将内存和处理器结合在一起，这与人类突触的功能十分相似，使它们能够以耕地温度、更节能的方式运行。
5.Tiny Corp
成立时间：2022年
创始人：乔治霍茨（George Hotz）
投资方：未披露
股权融资总额：510万美元
简介：Tiny Corp的产品帮助开发人员加快训练和运行机器学习模型的过程。
自动驾驶初创公司Comma AI的创始人兼前首席执行官乔治霍茨正在围绕一套名为tinygrad的开源深度学习工具建立业务。今年5月，霍茨在GitHub上发帖称，他认为tinygrad可以成为Pytorch的“有力竞争对手”，Pytorch是一套源自Meta的深度学习工具。不过，就目前而言，霍兹似乎更喜欢保持低调。他说：“我们不和两种类型的人说话，警察和记者。”
6.Sima.ai
成立时间：2018年
创始人：克里希纳兰加萨伊（Krishna Rangasayee，首席执行官）
投资方：富达、Amplify Partners、戴尔技术资本、VentureTech Alliance
股权融资总额：2亿美元
简介：Sima.ai正在开发硬件和软件，以用在飞机、无人机、汽车和医疗设备等“边缘”设备上，而不是在数据中心为人工智能软件提供动力。
在芯片制造商Xilinx工作了近20年的兰加萨伊于2018年创立了Sima.ai。他在接受采访时表示，在他看来，有些行业对新硬件的需求日益增长，但缺由于各种原因无法访问云中的人工智能计算，他希望解决这个问题。例如，自动驾驶汽车需要即时做出决定，并可以从本地运行人工智能软件中受益。而在医疗保健等行业，公司可能不想将敏感数据发送到云端，而是更愿意将其留在设备上。
今年6月，Sima.ai表示，该公司已开始批量生产其第一代EDGE人工智能芯片。该公司表示，它正在与制造业、汽车和航空等行业的50多家客户合作。
7.Lightmatter
成立时间：2017年
创始人：尼古拉斯哈里斯(Nicholas Harris，首席执行官)、达里乌斯布南达尔（Darius Bunandar）、托马斯格雷厄姆（Thomas Graham）
投资方：Matrix Partners、Spark Capital、Viking Global、SIP Global Partners
股权融资总额：2.66亿美元
简介：Lightmatter利用激光在芯片和服务器组之间传输数据。
麻省理工学院的学生利用从该大学获得的专利技术创办了这家初创公司。据其联合创始人兼首席执行官尼古拉斯哈里斯说， 在训练和运行机器学习模型时，Lightmatter的产品帮助企业将数据中心的能耗成本降低了约80%，而英伟达、AMD和英特尔等供应商的芯片通过电线传输数据。哈里斯说，Lightmatter还计划让英伟达、AMD和英特尔等公司授权其技术在自己的芯片中使用。
8.d-Matrix
成立时间：2019年
创始人：希德谢斯(Sid Sheth，首席执行官)，苏迪普博贾（Sudeep Bhoja）
投资方：微软、SK海力士、Playground Global以及Entrada Ventures
股权融资总额：5100万美元
简介：d-Matrix正在开发一种专门的芯片和软件，用于运行结合了处理器和内存的机器学习模型，这些处理器和内存通常是芯片上相互独立的不同组件。
d-Matrix的联合创始人兼首席执行官希德谢斯表示，这种方法使d-Matrix的芯片产生的热量更少，因此需要的冷却也更少，这使它们成为比主要供应商的GPU和CPU芯片更具成本效益的选择。在许多公司都在寻求基于OpenAI的GPT-4等LLM构建生成性人工智能应用程序的时候，这一点很重要。
谢斯说，d-Matrix选择专注于推理运行的机器学习模型，而不是训练这些模型，因为他们认为随着时间的推移，这些模型会变得越来越大，运行成本也会变得更高。该公司已有客户测试其芯片和软件，并计划在明年上半年将其商业化。（文/金鹿）
