机器人越来越多地出现在我们的日常生活中。它们可能在很多场合都有用武之地，如仿生肢体、机器人割草机或为隔离人员送餐的机器人；或者仅仅是为了娱乐，机器狗、跳舞玩具和杂技无人机。可能只有你想不到，没有机器人做不到。
然而，当机器人不按照我们的希望做事或者以一种会造成损失的方式做事时，会发生什么？例如，如果仿生手臂参与了一场驾驶事故，会发生什么？
机器人事故正在成为一个令人担忧的问题，原因有两个：第一，机器人数量的增加自然会导致它们所涉及的事故数量增加。第二，我们开始越来越擅长制造更复杂的机器人。当机器人越复杂时，就越难发现出错的原因。
大多数机器人的运行基于各种形式的人工智能。人工智能能够做出类似人类的决定。这些决定可以有无限可能性，从识别对象到解释语音。
人工智能经过训练，可以根据来自大量数据集的信息为机器人做出这些决定。然后在设置任务之前测试AI的准确性。
人工智能设计出不同形式。以机器人吸尘器为例，它可以被设计成当它撞到一个表面时，它会在一个随机的方向上重新定向。相反，它也可以设计成绘制周围环境以寻找障碍物，覆盖所有表面区域，然后返回充电基地。第一种方式是从其传感器接收信息，而第二种方式是跟踪该信息到一个内部映射系统。在这两种情况下，人工智能都在获取信息并围绕它做出决定。
机器人能够做的事情越复杂，它需要解释的信息类型就越多。它还可以评估一种类型数据的多个来源，例如在听觉数据就可以来自实时语音、无线电和风。
随着机器人变得越来越复杂并且能够根据各种信息采取行动，确定机器人根据哪些信息采取行动变得更加重要，尤其是在造成伤害时。
意外发生
与任何产品一样，机器人可能而且确实会出错。有时这是一个内部问题，例如机器人无法识别语音命令。有时它是外部的，例如机器人的传感器损坏了。有时它可能两者兼而有之，例如机器人并非设计用于在地毯上工作和“绊倒”。机器人事故调查必须考虑所有潜在原因。
机器人在出现问题时，发生损坏可能会带来不便。但当机器人对人造成伤害或未能减轻对人的伤害时，我们会更加担心。例如，如果仿生手臂未能抓住热饮，将其倒在主人身上；或者当体弱的用户跌倒时，护理机器人未能及时求救呼叫。
为什么机器人事故调查与人类事故调查不同？值得注意的是，机器人没有动机。我们需要知道机器人根据已有特定输入集而做出该决定的原因。
在仿生手臂的例子中，是不是用户和手之间的沟通不畅？机器人是否混淆了多个信号？意外锁定？在人摔倒的例子中，机器人难道不能“听到”大声风扇下发出的求救声吗？或者它在解析用户的语音时有困难吗？
黑匣子
机器人事故调查与人类事故调查相比有一个关键优势：内置证人的潜力。商用飞机也有类似的见证：黑匣子，旨在抵御飞机坠毁并提供坠机原因的信息。这些信息不仅在理解事件方面非常有价值，而且在防止事件再次发生方面也非常有价值。
作为RoboTIPS项目的一部分，该项目专注于社交机器人（与人互动的机器人）的负责任创新，我们创建了我们所谓的道德黑匣子：机器人输入和相应动作的内部记录。道德黑匣子专为它所在的机器人类型而设计，旨在记录机器人所作用的所有信息，其中包括语音、视觉，甚至是脑电波活动。
我们正在实验室和模拟事故条件下测试各种机器人的道德黑匣子。目标是道德黑匣子将成为所有制造和应用机器人的标准。
虽然在发生事故时，道德黑匣子记录的数据仍然需要后期解密，但首先拥有这些数据对于我们进行调查至关重要。
调查过程提供了确保相同错误不会发生两次的机会。道德黑匣子不仅是制造更好机器人的一种方式，而且是在充满活力的机器人领域负责任创新的一种方式。
本文由升哲科技编译，转载请注明。
