前不久,谷歌自动驾驶汽车推出了一项新专利,能帮助用户不被交警贴罚单,还能提前感知警车在靠近。这项专利能根据闪烁的灯光自动探测靠近的车辆,并且学会识别警车发出的蓝色和红色灯光,做出相应的反应。随着技术的不断研发,无人驾驶系统能识别从交通信号灯、路标到行人,现在再次扩展到警车。然而随着无人车越来越先进,现在也是时候考虑它的伦理道德问题了。
无人车版本的“机器人三定律”被提出/图 来源网络
想象一下,假设一辆无人驾驶汽车快要撞上另一辆汽车,那辆车里坐着三个人。它可以转弯闪开,但这样它就会撞上人行道上的一个孩子。它会如何选择?
这个问题是无解的,就连谷歌的工程师都不知道该怎么办,也许现阶段只能让它“踩刹车”来避免事故的发生。华盛顿大学的机器人学法专家 Ryan Calo 表示了对现有理论层面的伦理讨论是否能够转化为实际规则或制度设计的怀疑。他认为自动汽车不够精密,不足以了解在实际场景中人类将作出的不同反应。同时,美国联邦官员也正在要求政府对此作出详细规定。
不过,现在看来,德国似乎在这方面更有行动力。
为了应对今年频发的无人驾驶交通事故,德国交通部长 Alexander Dopindt 已经开始表明出台一些法律政策来防止人工智能危害到人类的安全。
艾萨克阿西莫夫(Isaac Asimov)在短篇小说"Runaround"(《环舞》)中首次提出了着名的机器人三定律(Three Rules of Robotics ),来保证机器人会友善待人。这对无人驾驶汽车来说,也许是一个很好的示范。
这三条定律是:
机器人不得伤害人类,也不得因为不作为而使人类受到伤害。
机器人必须服从人类的命令,除非这样做违背第一条法则。
在不违背第一条和第二条法则的情况下,机器人必须保护自己。
同样,如果有了伦理或其他安全方面的联邦标准,无人驾驶汽车制定决策的过程也许将更加透明化。Dorbindt 提出了“无人车三法则”:
人身安全永远要比财产安全更应该放在优先级上。
无论车型,车主有何差异,都必须一视同仁。
一旦发生交通事故, 制造商必须负责。
虽然,第三点的言下之意似乎是驾驶员不必为事故担责,但是 Dorbindt 指出,驾驶员的意识仍然是最重要的。司机应该对驾驶负责,并时刻准备接管方向盘和刹车。
所以,当你在驾驶无人汽车的时候,千万不要再睡觉了!
届时,“无人车三原则”将和德国“黑匣子”政策(自动驾驶汽车必须配备黑匣子,以便在事故发生后判断责任)一同实施。Dorbindt 还创办了一个“伦理委员会”,专门用来制定相关的监管措施,以及处理执行过程中会遇到的一些问题。