人工智能芯片指应用在人工智能算法加速，主要实现大规模并行计算的芯片。而在更广泛的概念下，任何应用在人工智能领域的芯片都可被称为人工智能芯片。
（1）人工智能芯片以场景和功能分类
人工智能芯片可根据场景和功能分为云端训练、云端推理、终端训练和终端推理四个类别：
（2）人工智能芯片以技术路线分类
深度学习架构下的人工智能芯片以技术路线进行划分，主要包括GPU、FPGA、ASIC、ASIP等类别：GPU使用SIMD让多个执行单元同时处理不同的数据，其离散化和分布式的特征，以及用矩阵运算替代布尔运算的设计使之适合处理深度学习所需要的非线性离散数据。与同样基于冯诺依曼架构的CPU不同的是，在传统的冯诺依曼结构中，CPU每执行一条指令都需要存储读娶指令分析、分支跳转才能进行运算，从而限制了处理器的性能；而GPU大部分的晶体管可以组成各类专用电路、多条流水线，运算单元明显增多，适合大规模的并行计算。如下图的结构对比图所示，GPU拥有更多的ALU用于数据处理，这样的结构适合对密集型数据进行并行处理，获得高于CPU几十倍甚至上千倍的运行速度。在云端，通用GPU，被广泛应用于深度神经网络训练和推理。但是，GPU并非专门针对AI算法，在执行算法中能耗相对较高、效率相对较低，有一定的时延问题。
FPGA利用门电路直接运算，而用户可以自由定义这些门电路和存储器之间的布线，改变执行方案。其基本原理是集成大量的基本门电路以及存储器，通过大量的可编程逻辑单元实现针对性的算法设计，即实现以硬件定义软件。FPGA通过可编程逻辑综合，在并行计算上能够获得和GPU接近的并行计算性能，相比CPU，有明显的性能提升，同时在功耗上优势明显在深度学习算法仍处于高速迭代的状态下，FPGA因其可重构特性而具有显著优势。FPGA市场化的阻碍主要在于高昂的硬件和开发成本，编程相对复杂，为实现重构而降低了计算资源占比，整体运算能力受到影响。
ASIC则为专用定制芯片的统称，在架构、设计、成本等方面存在更大的多样性，其中VPU是为图像处理和视觉处理设计的定制芯片。ASIC的架构相对简单，性能和功耗与通用型产品相比更低。由于不需要包含FPGA用于实现重构的可配置片上路由与连线，相同工艺的ASIC计算芯片可以拥有FPGA5-10倍的运算速度，实现PPA最优化设计。ASIC针对场景的定制化设计使其更适合终端推理场景，而如今它的主要劣势在于初期设计的资金投入和研发周期，且针对性设计限制了芯片的通用性。
ASIP是一种新型的定制化指令集的处理器芯片，它为某个或某一类型应用而专门设计，通过权衡速度、功耗、成本、灵活性等多个方面的设计约束，设计者可以定制ASIP以达到最好的平衡点，从而适应嵌入式系统的需要。ASIP集合了FPGA和ASIC各自的优点，不仅可以提供ASIC级别的高性能和低功耗，还能提供处理器级别的指令集灵活性，实现可重新编程，更适用于需求尚未被明确定义、需要芯片具备一定通用性和可编程性的应用场景，从而满足AI算法快速更新迭代的需求，并延长芯片的使用生命周期。
未来，类脑芯片的神经拟态计算将带来更大的想象空间，其内存、CPU和通信部件将集成为一体，信息处理可以在本地进行。类脑芯片的设计目的也将不局限于加速深度学习算法，而是在芯片结构甚至器件层面上改变设计，开发出全新的类脑计算机体系结构。目前此项技术还尚未得到大规模应用，但很有可能成为行业内长期发展的路径和方向。
（3）人工智能芯片行业市场规模与行业构成
市场规模方面，AI芯片的需求正在快速扩大，根据艾媒咨询的预测，全球AI芯片市场规模将在未来五年内飙升，预计将从2019年的110亿美元增长至2025年的726亿美元。赛迪顾问则预测中国AI芯片市场规模将从2019年的124.1亿元增长至2021年的305.7亿元，预计未来几年仍将以超过50%的速度快速增长。
根据赛迪数据报告，从行业结构分布来看，在2021年安防行业是AI芯片落地应用的最大市场，市场规模达到51.1亿元，占比16.72%。其余用途比较广泛的场景还包括零售、医疗、教育、制造、金融、物流、交通等领域。
根据应用场景，AI芯片可分为云端芯片、边缘端芯片和终端芯片，再根据功能可分为训练芯片和推断芯片。近年来，宏观政策的大力支持和人工智能的普遍应用促进了AI芯片市场的高速扩张。赛迪顾问预测，2021年我国AI芯片市场规模将达到305.7亿元，2019至2021年市场规模的年化增长率均超过50%。尤其对于终端推断芯片市场，随着人工智能应用生态的逐步建立，AI应用将被更为广泛地部署在终端设备，其市场规模年化增长率将保持在60%以上。
而根据甲子光年的统计，2020年中国云端AI芯片的市场规模可以达到111.7亿元，边缘与终端芯片为39亿元。但人工智能在安防、家居、商业等应用领域的大规模落地为边缘与终端芯片带来了更大的市场契机，该市场2018至2023年复合增长率将达到62.2%。
（4）AI芯片领域的竞争业态
目前行业内以国际龙头企业NVIDIA、Intel等为首，占据了全球市场绝大部分市场份额，国内企业中华为海思的技术水平居于领先，百度、阿里巴巴等亦有涉足相关技术领域，行业内其余中小型企业主要在针对特定的技术场景进行技术研发。总体来看，AI芯片领域呈现国外厂商主导市场，国内企业跟随及挖掘细分市场需求的竞争业态。
人工智能芯片市场在国内尚处于发展初期，业内企业以国外的NVIDIA、Graphcore，国内的寒武纪、地平线、华为海思等为主，聚焦多种芯片产品形成差异化竞争。云天励飞的芯片研发在国内市场起步较早，相比于专注芯片研发的企业，云天励飞产业链中下游丰富的算法基础研发和场景应用为芯片研发提供了多样化的数据和启发，形成全产业链的良性循环。
同行业企业对比情况从技术布局角度，企业如下：
依图科技:已发布适用于云端计算和边缘端计算场景的芯片产品
NVIDIA:已发布面向人工智能云端和边缘端计算的芯片产品，以GPU为代表
Graphcore:已发布面向云端大规模并行计算的芯片产品，以IPU为代表
寒武纪:已发布面向人工智能云端、边缘端和终端的芯片产品
地平线:已发布面向边缘端计算的芯片产品，主要针对汽车和AIoT等领域
云天励飞:已推出在终端侧和边缘侧计算场景应用的芯片产品
（5）人工智能芯片市场的未来发展趋势
人工智能芯片技术的发展趋势具体包括如下方面：
一、芯片行业整体受到政策鼓励支持，AI芯片发展受益国内需求和国产化进程
芯片是信息化时代、数字化时代的基石。中国作为全球最大的半导体消费市场，芯片自给率不足，严重依赖进口。为发展国产芯片，实现进口替代，近年来政府出台了一系列政策支持国产芯片行业发展。2020年8月，国务院发布的《新时期促进集成电路产业和软件产业高质量发展的若干政策》提出将从财税、投融资、研究开发、进出口、人才、知识产权、市场应用、国际合作等8个方面对集成电路和软件产业进行扶持，以加快集成电路和软件产业发展。AI芯片的发展将受益于芯片国产化的政策支持和庞大的国内市场需求。
二、AI芯片研发将从技术导向转向场景导向
目前AI芯片设计更多的是从技术需求的角度出发，如芯片架构的选择、芯片性能指标提升等。随着AI芯片领域的竞争越来越激烈，各芯片企业除了在技术层面有所突破，还需加大应用场景的布局，以抢占更多的发展机遇。为了适应碎片化的应用市场，未来的芯片设计需要以客户终端需求为导向，从需求量、商业落地模式、市场壁垒等各个方面综合分析落地的可行性，借助场景落地实现AI芯片的规模发展。
三、AI芯片发展从侧重云端向端云一体化发展
云端芯片聚焦非实时、长周期数据的大数据分析，能够支持大量运算共同运行，目前云端AI芯片应用已经相对成熟。随着智能音箱、自动驾驶、无人机、安防监控等应用的丰富，云端的部分推理乃至训练算力将迁移至边缘和终端侧，支撑本地业务的实时智能化处理与执行。边缘和终端侧对AI芯片的需求更为多样、更强调低功耗低成本、技术要求相对较低。得益于人工智能等多种因素的推动，边缘计算将逐渐在公共安防、智能家居、智能交通等诸多领域应用。随着边缘计算兴起，端云一体化的算力布局方案渐成主流，不仅可以实现对算法结构的优化，还从本质上赋能各边缘和终端应用，提供更好更完整的解决方案。
