计算能力是人工智能的基础，大规模并行计算技术的突破，导致人工智能发展出现了向上的拐点。并行计算又称为平行计算（是相对于串行计算来说的），并行计算是一种一次可执行多个指令的算法，目的是提高计算速度，即通过扩大问题求解规模，解决大型而复杂的计算问题。所谓并行计算可分为时间上的并行和空间上的并行。时间上的并行就是指流水线技术，而空间上的并行则是指用多个处理器并发的执行计算。
并行计算是同时使用多种计算资源解决计算问题的过程，是提高计算机系统计算速度和处理能力的一种有效手段。它的基本思想是用多个处理器来协同求解同一问题，即将被求解的问题分解成若干个部分，各部分均由一个独立的处理器来并行计算。并行计算系统既可以是专门设计的、含有多个处理器的超级计算机，也可以是以某种方式互连的若干台独立计算机构成的集群。通过并行计算集群完成数据的处理，再将处理的结果返回给用户。
冯诺依曼体系的串行结构使得计算机无法满足人工智能对硬件的要求，而近年来云计算的出现至少部分解决了这个问题。云计算的基础技术正是并行计算（将大型的计算任务拆分，然后再派发到云中的各个节点进行分布式的计算，最终再将结果收集后统一处理），大规模并行计算能力的实现使得人工智能往前迈进了一大步。
云计算的实质是一种基础架构管理的方法论，是把大量的计算资源组成IT资源池，用于动态创建高度虚拟化的资源供用户使用。在云计算环境下，所有的计算资源都能够动态地从硬件基础架构上增减，以适应工作任务的需求。云计算基础架构的本质是通过整合、共享和动态的硬件设备供应，来实现IT投资的利用率最大化，这就使得使用云计算的单位成本大大降低，非常有利于人工智能的商业化运营。
云计算技术的日益普及和成熟也是推动人工智能发展的一大关键因素，尽管服务器等硬件设备在性能上大大提升，成本下降，但是要实现人工智能所要求的强大运算和存储能力，需要很多硬件设备。如果只通过在本地搭建服务器来完成的话，不仅投资巨大、占用很大的物理空间，在耗电和散热等方面也面临很大考验。云计算通过大规模、分布式的并行计算，可以整合位于不同空间的计算资源，为获取强大运算能力提供了一种方便、廉价的途径，很好地解决了这一问题。
为满足视频游戏中繁重的视觉和并行计算需求，即每秒需要多次重新计算数百万像素。为完成这一任务，需要一块专门的并行计算芯片，即图形处理单元（GPU）芯片，作为PC主板的补充。图形处理单元（GPU）芯片的应用，使得视频游戏的性能大幅飙升。在2009年，斯坦福大学的吴恩达(AndrewNg，现已加入百度)及其团队意识到，GPU芯片可以并行运行神经网络。
目前，GPU（图形处理器）以远超CPU的并行计算能力获得业界瞩目，GPU已经不再局限于3D图形处理了，GPU通用计算技术发展已经引起业界不少的关注，事实也证明在浮点运算、并行计算等部分计算方面，GPU可以提供数十倍乃至于上百倍于CPU的性能。开发人员能够利用 GPU的大规模并行计算能力，创造出引人入胜的消费级和专业级计算应用程序。现在GPU的技术进步速度已超过摩尔定律，每6个月GPU的性能提升一倍。
