近期关于人工智能（AI）伦理的讨论很多，尤其是围绕 机器人武器研发 ，以及一个相关但更宽泛的讨论：把人工智能视为 对人类的生存性威胁。
如果《终结者》系列电影中的天网要消灭我们，那么讨论监管和责任问题就显得相当无足轻重，甚至毫无意义。但正如法律哲学家约翰·多纳赫（John Donaher）已经 指出，如果能及时、审慎地处理这些领域，就有助于在更长远的时间内降低生存风险。
就人工智能而言，监管与责任是同一枚安全与公共福利硬币的两面。监管旨在确保人工智能系统尽可能安全；责任则关乎在出现问题时，我们能够向谁追责——或者更准确地说，能向谁寻求法律救济。
责任的归咎
我们先来看侵权（民事不法行为）责任。设想以下近未来的场景：一台无人驾驶拖拉机被指令在A农民的田地里播种，却实际上在B农民的田地里播了种。
假设A农民已经给出了恰当的指令。我们还假设，A农民并无其他应当采取而未采取的措施，例如在田地边界设置无线电信标。现在假设B农民想以过失为由提起诉讼（为简便快捷起见，我们暂不考虑妨害和侵入）。
A农民需要承担责任吗？可能不需要。拖拉机制造商需要承担责任吗？可能需要，但会涉及关于注意义务和注意标准的复杂论证，例如：相关的行业标准是什么，以及制造商的规格说明在这些标准面前是否恰当？此外，还存在一个问题：非预期的播种造成的是财产损害，还是纯粹的经济损失。
到目前为止，我们一直默认拖拉机制造商开发了系统软件。但如果是第三方开发了人工智能系统呢？如果代码来自不止一家开发者呢？
随着人工智能系统逐渐远离经典算法和编码方式，它们将越来越多地表现出一些行为：这些行为不仅未被其创造者预见，而且完全不可预见。这一点意义重大，因为 可预见性 是过失责任中的关键要素。
为了更好地理解可预见性问题，我们设想这样一个场景：仅在上述播种事件发生十年或二十年之后，一台高度自主、完全由人工智能驱动的先进机器人意外伤害或杀死了一个人，而法律并没有发生任何实质性变化。在这一场景中，由于缺乏可预见性，过失责任可能导致根本无人承担责任。
让人工智能机器人承担责任
为什么不直接认定机器人本身承担责任呢？毕竟，关于 人工智能人格 以及 人工智能系统可能承担刑事责任的问题，已有过一些讨论。
但这种做法在这里真的能起作用吗？一位老朋友最近对我说：
“人工智能系统真的会像艾萨克·阿西莫夫笔下的Bicentennial Man一样——服从法律、拥有道德良知，还有一个可观的银行账户吗？”
撇开人工智能系统能否被起诉的问题不谈，人工智能制造商和开发者很可能不得不重新被纳入责任框架之中。这可能涉及以 严格责任 取代过失责任——即无需证明存在过错或过失即可适用的责任。
在许多地方，严格责任已适用于有缺陷产品的索赔。另一种做法是建立无过错责任制度，由人工智能行业共同出资设立赔偿基金池。
规则与监管
在监管方面，制定严格的安全标准并建立安全认证流程将至关重要。但设计和运行一套合适的机构与流程框架将十分棘手。
由于该领域的复杂性，以及人工智能研发社区之外普遍缺乏理解，任何框架的建立都需要人工智能专家的参与。这也意味着，应尽快为立法机构和政府设立咨询委员会。
诚然，人工智能可能带来巨大益处，因此需要持续进行权衡：既要制定、更新和执行标准与流程，以最大限度地维护公共福利与安全，又不能扼杀创新，也不能增加不必要的合规负担。
所制定的任何框架还必须足够灵活，以兼顾地方性因素（即各国人工智能技术自主生产与进口的比例）和全球性因素（例如各国之间可能相互承认安全标准与认证，以及需要遵守未来任何国际条约或公约等）。
因此，在人工智能研发的道路上前行时，我们确实需要开始围绕人工智能构建规则，而且这或许需要在为时已晚之前完成。
我们已经开始围绕无人驾驶汽车展开讨论——参见 这里 和 这里 ——但就人工智能而言，需要应对的问题还多得多。
接下来我们该怎么做？请您不吝赐教。
本文最初发表于 The Conversation。请阅读 原文。刊发本文并不意味着世界经济论坛认同文中观点。
如需及时了解议程动态，请 订阅我们的每周简报。
作者： Gary Lea 是人工智能监管领域的访问研究员，任职于 澳大利亚国立大学
图片：一名男子与机器人假手握手。REUTERS/Rick Wilking。
