边缘计算虽然是当下的科技难题，但也为IT架构师和嵌入式开发人员提供了更多的选择，最终，边缘计算将会演变出边缘AI技术，加快决策的效率和质量。
当下，科技应用对人工智能和机器学习的需求超过了对云数据库的需求，因为对重要物联网传感器数据的处理越来越接近数据最初所在的位置。这一举措将由新一代人工智能（AI）芯片实现，其中包括比GPU、FPGA和其他专门的IC类型更窄的内存和功耗要求的嵌入式微控制器，以及其他被应用于亚马逊、微软和谷歌的云数据中心的特定IC类型控制器，帮助数据科学家解决问题。
正是因为云服务，机器学习和相关的神经网络才得以迅猛发展。但由于物联网的兴起造成了数据冲击，便有了对基于边缘计算的机器学习技术的需求。现在，云提供商、物联网（IoT）平台制造商和其他公司认为，在将数据移交给云进行分析之前，在边缘网络处理数据会存在一定的优势，比如基于AI的决策可以减少延迟，使传感器数据的实时响应更加可行和适用。尽管如此，人们称之为的“边缘AI”的形式仍然有很多种，如何利用下一代物联网为其提供支持，在呈现高质量的可行数据方面提出了挑战。
1、边缘计算工作量的增长
基于边缘网络的机器学习可以推动物联网市场中AI应用的显著增长，Mordor Intelligence估计，到2026年，人工智能将以27.3%的复合年增长率增长。EclipseFoundationIoT Group research在2020年支持了这一点，该研究认为人工智能占物联网开发人员最常引用的边缘计算工作量的30%。对于许多应用程序来说，在云端无休止地复制并启用并行机器学习的服务器机架是不可行的。而人工智能在边缘网络解析图像数据的应用已被证明是一个有着无限潜力的领域。但是，使用物联网设备收集的数据进行事件处理有许多复杂的处理需求。
2、边缘计算的价值
Hyperion Research高级顾问史蒂夫康威(Steve Conway)表示，基于云端的物联网分析仍将持续下去。但是，数据的远距离传输必然带来处理延迟，因为将数据移入和移出云端会因为往返时间产生滞后。“我们不可能将解决问题的重心放在超过光速上，”史蒂夫说“所以处理数据的层次正在往边缘网络发展。” 除了设备和板级实施之外，此层次结构还包括制造中的IoT网关和数据中心，这些扩展了可用于下一代IoT系统开发的架构选项。SAS已经创建了经过验证的边缘物联网参考架构，客户可以在此基础上构建AI和分析应用，这些应用是不可能在云端高效且低成本的进行使用和分析的。所以为了在云和边缘AI之间取得平衡，我们必须要考虑到数据量的规模性，而这就是基于边缘的人工智能处理器在数据发到其他地方之前进行本地处理的意义所在。
3、关于AI边缘芯片的市场竞争力
基于云的机器学习技术的兴起受到高内存带宽GPU兴起的影响。这项成功引起了其他芯片制造商的关注。内部AI专用处理器紧随其后的是超大规模云服务玩家Google、AWS和Microsoft。AI芯片之战使得AMD、Intel、Qualcomm和ARM Technology(去年被NVIDIA收购)等领先企业并驾齐驱。反过来，Maxim Integrated、NXP Semiconductors、Silicon Labs、STM Microelectronics等嵌入式微处理器和片上系统的主流开始致力于将AI功能添加到边缘网络。如今，物联网和边缘处理需求吸引了包括EdgeQ、Graphcore、Hailo、Mythic等在内的AI芯片初创公司。目前，边缘处理还受到限制。Hyperion的Steve Conway强调说，障碍包括可用内存、能耗和成本。
4、软硬件的配合
Maxim Integrated公司的微控制器和软件算法业务执行董事克里斯阿迪斯(Kris Ardis)建议，数据移动是边缘能耗的一个因素。例如，Maxim Integrated公司发布了MAX78000，该器件将低功耗控制器与神经网络处理器配对，可在电池供电的物联网设备上运行，进而节省带宽和通信消耗。与此同时，基于该芯片的单个物联网设备可以为物联网网关提供支持，物联网网关也可以发挥重要作用，将来自设备的数据汇总起来，并进一步过滤可能流向云的数据，以分析整体操作。为简化视觉系统的开发，NVIDIA推出了Jetson JetPack 4.5，其中包括其视觉编程接口(VPI)的首个生产版本。随着时间的推移，边缘的AI开发琐事将更多地由IT部门来处理，而对机器学习有深入了解的AI研究人员将减少处理。
5、Tiny Machine Learning的兴起
在终端和边缘侧的微处理器上实现的机器学习过程就叫做tiny Machine Learning(即tinyML)。这项技术以更低的功耗完成工作并使用有限的内存，实现了以秒为单位的推理速度。缩小神经网络处理的规模是这里的主要目标，并且这些技术有很多种，大家致力于将边缘机器学习的复杂性抽象提取出来。虽然研究的方向是越来越复杂的大规模AI模型，但随着机器学习达到的黄金时段，效率又成了新的关注重心。
6、展望未来
在边缘网络中，采用多层神经网络和无监督学习来识别图像的机器视觉技术已成为AI的重要应用案例，位于最靠近数据采集处的智能摄像头通过嵌入式硬件为深度学习增加了处理能力。虽然一些解决方案存在固有的风险，但是高的投资回报率提高了模式识别的应用可行性。所以即使物联网本身具有一定的局限性，但是借助人工智能和机器学习、深度学习，物联网将会被普及并且被赋予更高的价值。
