芯片大厂恩智浦近日在京举办的会议上,对生态伙伴和客户透露了在边缘业务上,对人工智能的支持策略和进展。
虽然当下非常先进的AI/ML模型,都是在云端实现的,但因为时延和隐私监管原因,越来越多的AI/ML功能将走向边缘。就在几个月前,恩智浦展示了i.MX 9系列产品,在边缘运行大语言模型,甚至无需连接到云端,设备可以变得智能和自主,自行做出决策。
针对边缘智能提出的要求,恩智浦在MCU和MPU侧集成了NPU。恩智浦全球资深副总裁、工业及物联网边缘业务总经理Charles Dachs说,对算力的部分不是说越多、越高越好,而是取决于应用场景,因此不会堆砌一个很高算力的MCU,会追求产品的性价比。覆盖的算力从10个G到几个T。
光有算力还不够,恩智浦还提供了一个完整的软件框架,称之为eIQ。它使开发人员和客户能够采集数据、标注数据、训练自己的模型,并在底层处理平台上测试它们,并部署在不同硬件里,再去做推理。
Charles Dachs说,这些产品技术支持命令识别、机器视觉、异常检测、网络安全、身份识别、存在性检测。
恩智浦也展示了中国团队的案例。其中之一是将AI/ML功能与电机控制相结合,恩智浦提供了单芯片解决方案,客户在一个芯片上,既实现马达控制功能,又实现AI能力,典型的场景是电动工具打钻时,遇到特定的情况会自动停止。
另一个是在医疗领域,把AI针对声音的检测,应用到传统呼吸机中,可以将病人打鼾的声音,从其他声音中过滤出来,从而对病人进行监测治疗。
甚至在洗衣机中用于有效载荷管理的人工智能。人们把衣物放到洗衣机里,它会做一个自动的称重,根据重量来调整马达和机器,最终达节省功耗的作用。
恩智浦大中华区边缘处理事业部系统工程高级总监王朋朋介绍了Demo,有的AI机器学习运行在很小的MCU上,比如故障检测;也有的运行在比较高端的跨界处理器或应用处理器上运行,比如说人脸识别、疲劳检测或大语言模型。这些模型的参数量也从几千到数亿。“需要做一些平衡和取舍,并一定要多少参数或是一定要多少的TOPS的要求。”
具体到芯片产品,如MCX N率先集成了NPU;应用处理器i.MX 9系列里面集成了NPU,可以进行高效的AI和机器学习的处理能力;恩智浦刚刚发布的RT 700跨界处理器,是第一颗集成了NPU的跨界处理器,非常适合于做边缘侧的AI和机器学习的处理。比如,它广泛应用于像AR眼镜这样的产品,也很适用于医疗或智能家居。