机器之心编译选自ACM
机器之心编译
编辑：陈萍
Marcus 认为自动驾驶汽车领域仍然存在「边缘情况」，至今还没解决，不应该全天候在道路上测试行驶。
2016 年《纽约时报》一篇关于自动驾驶汽车的文章开头写道：「自动驾驶汽车时代已经到来，一些汽车制造商已投资数十亿美元进行研发…… 并在美国的一些城市开始测试。」7 年过去了，自动驾驶走到哪一步了？
纽约大学心理学和神经科学荣誉教授 Gary Marcus 对这一领域发表了一些观点。他表示这个领域仍然存在问题，而这个问题 Marcus 在过去几年里强调过数十次，即边缘情况，也就是经常会使机器学习算法感到困惑的非常规情况。
自动驾驶汽车面临的情况越复杂，意料之外的异常情况就会越多。而现实世界是复杂和混乱的，我们无法列出所有可能发生的非常规事件。至今还没有人找到如何制造能够应对这一事实的自动驾驶汽车的方法。
Marcus 表示，自己第一次强调边缘情况给自动驾驶带来的重大挑战还是在 2016 年的一次采访中，「当时我厌倦了大肆宣传，并最终放弃了这一观点。现在重新读这份文字记录，我认为还适用于现在」。
我们现在所看到的技术进步，很大程度上是通过大规模暴力破解技术推动的，就像超级计算机深蓝以及雅达利游戏系统等。这些技术的发展，使人类感到无比兴奋。与此同时，如果你谈论的是家用机器人或在街上行驶的机器人，大家的兴致就不会那么高涨了。
一般来讲，无人驾驶在常规情况下表现的很好，例如在晴朗的天气里它们行驶的很安全。但如果把它们放在有雪、有雨等复杂的环境中，无人驾驶就会变得很糟糕。此前，美国记者和特约编辑 Steven Levy 曾写过一篇关于谷歌自动驾驶的文章，文中谈到 2015 年谷歌取得了一个重大的胜利，而这个胜利就是系统能够自动识别树叶。
识别树叶对人类来说过于简单，但对自动驾驶汽车来说却是一次重大的进步。人类可以用常识来推理，弄清楚这个东西可能是什么，它是如何到达那里的，但自动驾驶系统只是记住了一些东西，缺少推理，而这正是自动驾驶汽车所面临的限制......
人们一直在期待更加成熟的自动驾驶技术，就在前几天，加州公用事业委员会批准了自动驾驶汽车公司 Cruise 和 Waymo 在旧金山进行 24/7 全天候运营，这一决定为这两家公司提供了更大的余地来测试他们的汽车。消息公布之后很多人表示，自动驾驶汽车时代已经到来，虽然比预计的时间晚了一些。
事实上，我们还没有任何真正的自动驾驶汽车，正如美国著名记者 Cade Metz 几个月前在我的播客「人类与机器」中解释的那样，每条公共道路上的自动驾驶车辆要么配有一名人类安全驾驶员，要么有一些人在远程监督，当遇到困境时，以便帮助车辆摆脱困境。
现在，自动驾驶领域还在出现新的边缘情况，比如特斯拉撞上停着的喷气式飞机。
Marcus 表示，不管这些系统用了多少数据进行训练，总会有新的状况出现。
就在最近，又有十辆自动驾驶汽车与任务控制中心失去了联系，没有了控制中心的监督，自动驾驶汽车出现迷路、停在街道中间等诸多事故：
自动驾驶领域状况不断，因而包括 Marcus 在内的很多研究者都不理解加州公用事业委员会的这一做法。
如果没有一个严格的、经过仔细审查的解决方案来解决边缘情况，那么随时随地的进行自动驾驶测试是很疯狂的。这不仅适用于无人驾驶汽车，也适用于基于机器学习的其他领域。
边缘案例无处不在，任何认为这一切都很容易解决的人都是在欺骗自己。
我们要加强管理，如果我们不这样做，我们可能会在未来几年看到无人驾驶汽车、自动化医生、通用虚拟助理、家庭机器人等发生重大事故。
文章末尾，Marcus 表示他是在一架配备有自动驾驶仪的飞机上完成的这篇文章，在 9 个小时的飞行中，自动驾驶仪一直在工作，期间也有人类的参与，这就构成了人在环路。最后，Marcus 认为不会有自动驾驶飞机，而且他认为还没有任何准自动驾驶汽车获得认可。
