作者:子渝
编辑:王与桐
据 TechCrunch 报道,人工智能初创公司「Modular 」获新一轮1亿美元融资,由General Catalyst领投,GV(Google Ventures),SV Angel,Greylock和Factory参投。截止目前,Modulal总融资额达1.3亿美元。其首席执行官Chris Lattner表示,Modulal将利用此轮融资增强其AI编程语言和其他产品,继续研发“AI Engine”软件工具,从而为用户提供更好的简化开发 AI 系统过程的工具。
Modular 成立于 2022 年,由前谷歌员工 Lattner与Davis共同创立。Lattner和Davis都认为AI如今面临受到过于复杂和分散的技术基础设施的阻碍,所以创立Modulal,专注于消除大规模构建和维护AI系统的复杂性。
Lattner说:“因为我们在一个需要高度专业知识的深度技术领域,我们打算利用这笔资金来支持我们团队的发展。这笔资金不会主要用于人工智能计算,而是改进和扩展我们的核心产品以满足客户需求。我们的平台使客户能够对他们的AI技术堆栈进行碎片化整理 ,从而更快地将更多创新推向生产,并从他们在AI的投资中实现更多价值。我们正在通过从AI软件与AI硬件的结合开始,解决困扰AI堆栈的碎片化问题,从而应对当今AI开发的复杂性。”
目前,市场上已有许多初创公司专注于提供这样的技术。例如,由英特尔支持的Deci也是可以提供该技术的初创公司之一,这些技术可以使经过训练的AI模型更高效,性能更高。该类别中的另一个初创公司是OctoML,也可以实现自动优化、基准测试和整合一系列不同硬件的模型。
无论如何,在Lattner看来,人工智能的需求正在迅速接近可持续性的极限。这使得任何减少计算需求的技术都会非常有效。正如《华尔街日报》最近的一篇文章所指出的那样,当今流行的生成式人工智能模型比旧的人工智能模型大10到100倍,而且许多公共云基础设施并不是为运行这些系统而构建的。
实际上,上述问题已经产生了影响。该公司在一份收益报告中提出警示,Microsoft正面临着运行人工智能所需的服务器硬件短缺,这可能导致服务中断。与此同时,对人工智能推理硬件(主要是GPU)暴增的需求已将GPU提供商英伟达的市值推高至1万亿美元。然而据报道,英伟达表现最好的AI芯片将在2024年之前已售罄。
根据标准普尔全球 2023 年的一项民意调查,由于上述原因,顶级公司中超过一半的人工智能决策者报告表示,在部署最新的人工智能工具时面临障碍。
对此,Modular提供了一个引擎,试图提高CPU上AI模型的推理性能,并且可以与现有的云环境,机器学习框架(如Google的TensorFlow和Meta的PyTorch)甚至其他AI加速器引擎兼容。Modular的引擎目前处于预览状态,允许开发人员导入经过训练的模型,并运行。Lattner声称,其运行速度比在本机框架上快7.5倍。
除此之外,Modulal还开发了一种名为Mojo的编程语言,将其定位为更快的编程替代方案。该语言的语法几乎与Python相同,易于使用。根据Modular的说法,其与Python关键的区别在于Mojo的速度提高了35000倍。目前,Modular 可供几百名早期试用者预览,计划在下月初正式发布。
但根据一项调查,截至 2020 年,87% 的数据科学家定期使用 Python。而Lattner认为,Mojo的好处将推动开发人员开始更多地使用Mojo。
对此,Lattner说:“关于人工智能应用程序,人们普遍误解的一件事是,它们不仅仅是一个高性能加速器问题。今天的人工智能是一个端到端的数据问题,涉及加载和转换数据、预处理、后处理和网络化。这些辅助任务通常在Python和C++中完成,只有Modular与Mojo的方法才能将所有这些组件结合在一起,在不牺牲性能和可扩展性的情况下在一个统一的技术基础中工作。”
Lattner声称,自Modular在5月初的产品主题演讲以来的四个月内,Modular社区发展到超过120,000名开发人员,“领先的科技公司”已经在使用Modular的基础设施,其中30,000名在候补名单上。
Lattner说:“Modular最重要的敌人是复杂性:软件层中仅在特殊情况下工作的复杂性,与特定硬件相关的软件以及由高性能加速器的低级性质驱动的复杂性。使人工智能成为如此强大和变革性技术的原因正是因为它需要如此多的努力才能达到规模,如此多的人才投资于构建定制解决方案以及如此多的计算能力来提供一致的结果。Modular引擎和Mojo共同创造了公平的竞争环境,而这仅仅是个开始。”