自动驾驶汽车总有一天会撞死一位人类。没人怀疑这一点。
我们正处于人工智能研究的关键时期，强人工智能随时可能到来。这项技术已经开始走出实验室，帮助传统工业和现代工业继续发展。但如果有一天有人死在机器人手里怎么办？种种问题悬而未决，人工智能的时代到底会是人类的又一个黄金时期还是我们的另一个 冰河时代 ？
比尔盖茨、埃隆马斯克、霍金，这些科技和理论巨人都曾警告我们人工智能的出现可能是人类生存的一大威胁。这样可怖的观念从当今最聪明的头脑中说出来让人不得不认真思考。尽管人工智能和机器人方面的进步会为我们的世界带来好处，但进一步的认知能力才是他们所担忧的。拥有自我意识的机器人所认为的最优利益很可能和我们人类的思维背道而驰。这些聪明的头脑似乎不认为《终结者》只是一部极客们的疯狂脑洞实验。
是的，自动驾驶汽车总有一天会发生意外造成人类死亡，但这并不是因为它的自我意识想要这样做的。而是传感器故障或者算法缺陷。如果抛开具体的结果，我们会发现这和一个计算机程序停止响应并没有本质区别。它带来的风险显然不会导致人类灭绝这样的灾难性后果。
为了更好的理解这件事，必须深入了解现代人工智能系统如何工作。每个应用可以当做是一个最优化问题，我们的目标是找到最少成本和最大回报的解。这种人工智能没有任何神奇之处，也不需要具有情感。人工智能在求解这类问题时和我们人类的思维方式是很相似的。举例来说，一个人工智能驾驶的汽车会选择到目的地最短行程的路线，行驶过程中，一个计算机系统会从实时摄像头提供的画面中发现路中央的一只猫并决定避开它。人们也是这样想这样做的。
即便在从未如此流行的 深度学习 领域中，数据被放在神经元网络中，追根究底它的运行方式仍然是寻找最优解，也就是找到与训练数据拥有最佳拟合的模式。
一个判断图像内容的程序并不比一个下棋程序更有自我感知能力。这些应用系统都没有真正的 思考 ，它们只是在寻求一个给定问题的最优解。即便一些系统的复杂程度超乎想象，人工智能系统仍然只会做程序员给定的那些线性工作。
尽管机器人杀死人类听起来非常恐怖，自动汽车造成车祸也相当吓人，人类自身每天引发的车祸也不在少数。当然，想到这些汽车都是由一个真正的人类驾驶的我们或许有一丝宽慰，但从统计学的角度讲，人类驾驶员的安全程度永远比不上全自动驾驶的道路交通系统。当自动驾驶汽车的益处开始超过小概率的车祸事件，开始以高效率影响我们的城市规划、日常出行、交通价格的时候，我们会对它越来越熟悉，最终自动驾驶汽车就像个人电脑一样成为了生活中普通的一部分。
机器人和人工智能带来的真正问题是在它落在坏人手里的时候。就像核电站和核武器之间的区别一样。机器人、人工智能领域的进步会给不怀好意的人带来新的工具，他们可以通过黑掉这些智能系统来伤害别人。但我们应当有能力控制这些风险，并时刻准备面对这些挑战。不要忘记人类的智慧曾带给社会的巨大进步。
盖茨、马斯克、霍金提醒我们注意人工智能的发展方向并没有错。但最大的危害不是来自机器，而更可能来自人心。没有什么比这更狠毒的了。我们一度无法想象的技术现在变得触手可及，但一些理念却会永远停留在漫画书中，比如一个有自我意识的反人类机器人杀手。
