大多数机器人通过人工智能（AI）运行，使其能够做出类似人类的决策。
机器人能够做出的决策越复杂，理解事故为何发生就越困难，也越重要。
RoboTIPS项目打造了一个伦理黑匣子，用于记录机器人的全部输入及相应行为，以确保同样的错误不会再次发生。
机器人在我们的日常生活中出现得越来越多。它们可以非常有用（如仿生肢体、机器人割草机，或为隔离人员配送餐食的机器人），也可以仅仅带来娱乐（如机器狗、跳舞玩具和特技无人机）。或许，想象力是未来机器人能力的唯一限制。为隔离人员配送餐食。
然而，当机器人没有按我们的意愿行事，或其行事方式造成伤害时，会发生什么？例如，如果仿生手臂涉及一起驾驶事故，又会怎样？
机器人事故之所以日益受到关注，原因有两个。第一，机器人数量的增加必然导致它们牵涉的事故数量上升。第二，我们正在更好地制造更复杂的机器人，而机器人越复杂，就越难理解问题出在哪里。
大多数机器人运行于各种形式的人工智能（AI）之上。人工智能能够做出类似人类的决策（尽管这些决策在客观上可能好，也可能不好）。这些决策可以涵盖各种事项，从识别物体到理解语音。
人工智能通过海量数据集中的信息接受训练，从而为机器人做出这些决策。在被分配任务之前，人工智能还会接受准确性测试（即它们能在多大程度上完成我们期望的工作）。
人工智能的设计方式多种多样。以机器人吸尘器为例。它可以被设计为每当撞到表面时便随机改变方向；也可以被设计为绘制周围环境地图以找到障碍物、覆盖所有表面区域，并返回充电座。第一种吸尘器从传感器获取输入，第二种则将这些输入追踪并纳入内部地图系统。无论哪种情况，人工智能都在获取信息，并围绕信息做出决策。
机器人能力越复杂，需要解读的信息类型就越多。它还可能同时评估同一类数据的多个来源，例如在听觉数据方面，同时处理现场人声、收音机和风声。
随着机器人变得更加复杂，并能够依据各种信息采取行动，确定机器人究竟依据哪些信息采取了行动就变得更加重要，尤其是在造成伤害的情况下。
事故的发生
与任何产品一样，机器人也可能出现故障。有时问题在于内部，例如机器人无法识别语音指令；有时问题在于外部，例如机器人的传感器受损。有时两者兼而有之，例如机器人并非为在地毯上行走而设计，因而发生“绊倒”。机器人事故调查必须审视所有潜在原因。
机器人在出错时受损也许令人不便，但当机器人对人造成伤害，或未能减轻对人的伤害时，我们会更加担忧。例如，仿生手臂未能抓稳热饮，导致饮品泼向使用者；或者护理机器人在体弱的使用者跌倒时未能接收到求救呼叫。
为何机器人事故调查与人类事故调查有所不同？值得注意的是，机器人没有动机。我们希望了解，机器人基于其所获得的特定输入组合，为何作出了这样的决策。
以仿生手臂为例，是使用者与手部之间出现了沟通误差吗？机器人是否混淆了多重信号？是否意外锁定？以跌倒者为例，在嘈杂的风扇声中，机器人是否无法“听到”求救呼叫？抑或它难以理解使用者的语音？
黑匣子
与人类事故调查相比，机器人事故调查具有一项关键优势：可能存在内置的“见证者”。商用飞机也有类似的见证者：黑匣子。黑匣子经过设计，能够承受飞机坠毁，并提供事故发生原因的信息。这些信息不仅对理解事故极具价值，也有助于防止事故再次发生。
作为RoboTIPS项目的一部分（该项目专注于社交机器人，即与人互动的机器人，的负责任创新），我们创建了所谓的“伦理黑匣子”：一种记录机器人输入及相应行为的内部记录装置。伦理黑匣子针对其所搭载的每一类机器人进行设计，并记录机器人所依据的全部信息。这些信息可以是语音、视觉信息，甚至是脑电活动。脑电活动。
我们正在实验室环境和模拟事故条件下，在各种机器人上测试伦理黑匣子。我们的目标是让伦理黑匣子成为各品牌、各类应用机器人的标准配置。
虽然在事故发生时，伦理黑匣子记录的数据仍需加以解读，但首先拥有这些数据，对于开展调查至关重要。
调查过程为确保同样的错误不再重演提供了机会。伦理黑匣子不仅有助于打造更好的机器人，也有助于在这一激动人心且充满活力的领域负责任地推动创新。
