你的 自动吸尘器 会清洁地板；即使它偶尔撞到东西，或捡起一枚纽扣、或一张写有电话号码的纸片，也不会造成什么大问题。不过，后一种情况确实令人恼火——如果机器能察觉纸片上写了字并提醒你，就更好了。人类清洁工就会这么做。
如果你的孩子有一台玩具机器人，你并不会太担心它在玩耍时偶尔轮子、手臂或眼睛失控。对孩子们来说，这甚至可能更有趣。你知道，这种玩具的设计确保它不会有足以造成伤害的力量。
但如果是一台工厂机器人，负责拾取汽车零件并将它们装到汽车上呢？显然，你不会想在它失控时待在附近。你知道它已被预先编程来执行特定任务，而且它未必欢迎你靠近。这类机器人通常会被关在笼子里或隔离起来，甚至操作人员也不例外。但如果未来出现某种自主机器人，你需要与它协作组装某件东西或完成其他任务，又会怎样？你可能会想，如果它足够强大、能派上用场，那么它也可能强大到会意外伤害你。
如果你驾驶航模飞机，可能会想在机上安装一台配有 GPS 的计算机，让它沿航路点飞行，也许还可以拍摄一系列航拍照片。这可能引发两方面的担忧。首先，当飞机偶尔飞出视线时，飞行是否合法；例如出现某种你未能察觉的故障，而出于安全需要应当接管自动控制。其次，如果需要紧急着陆，机载软件的编写是否足够完善，能确保安全着陆？它会不会危及公众，或损坏其他空中或地面物体？
你最新款的豪华汽车配有智能传感器系统，能够识别周围环境；但它可能不得不在两个糟糕的选项中做出选择：撞上一辆突然出现在街上的汽车，或者刹车，导致后车撞上你。作为乘客，乘坐一辆与其他自动驾驶汽车组成车队行驶的汽车时，你可能会想：如果车队到达路口或道路施工路段，或者车队中的车辆发生故障，汽车会怎么做？自动驾驶系统能否值得信赖，在不伤害周围行人或车辆的情况下，自行通过临时障碍或突发状况？
在恰当的时机做出正确选择
这些问题给设计和编程未来半自主及自主机器人的人带来了真正的挑战。必须预见并考虑所有可能的危险情况，或由机器人自行解决。机器人还必须能够安全地识别环境中的物体，理解自己与这些物体之间的功能关系，并就下一步行动以及何时能够满足我们的要求做出安全决策。
对于某些应用，例如人形机器人，目前尚不清楚责任应由谁承担：制造商、机器人还是其所有者。如果造成了损害或伤害，可能是用户教给机器人错误的东西，也可能是用户向它提出了不恰当的要求。
目前仍需建立法律框架，而现阶段这类框架完全缺失。如果使用了各种软件系统，我们该如何检查机器人的决策是否安全？我们是否需要一个英国机构来认证自主机器人？机器人必须遵守哪些规则，又将如何核实它们在所有实际情境下都安全？
由 EPSRC 支持、我们在谢菲尔德大学、利物浦大学和布里斯托尔的西英格兰大学 最近启动 的研究，正试图为这些问题找到答案和解决方案，从而提高自主机器人的安全性。这个为期三年的项目将研究如何对机器人的决策过程进行正式验证，并最终通过法律认证。制定实现这一目标的方法，实际上也将有助于界定法律框架（与律师协商），并有望推动英国机器人产业蓬勃发展。
本文 与《The Conversation》合作发表。发表本文并不意味着世界经济论坛认可其中的观点。
如需关注论坛动态： 订阅我们的每周通讯。
作者：Sandor Veres，谢菲尔德大学教授、自动系统与机器人研究小组主任
图片：Twendy-One 是一款旨在帮助老年人和残障人士料理家务的机器人。2009年1月8日，它在东京早稻田大学演示端上烤面包。路透社/Issei Kato