过去几年里，由麻省理工学院主办的“道德机器”研究调查了公众对于人工智能应用在各种情境下应如何行事的看法。研究数据得出的一个结论是：当自动驾驶汽车（AV）遇到生死攸关的情境时，人们认为它应如何应对，很大程度上取决于他们来自哪里，以及他们对相关行人或乘客了解多少。
例如，在自动驾驶汽车版的经典“电车难题”中，有些人可能更愿意让汽车撞上一名已被定罪的杀人犯，而不是伤害其他人；也有人可能认为应该先撞上一位老年人，而不是孩子。还有人可能主张，自动驾驶汽车应干脆掷骰子，以避免基于数据的歧视。
通常，这类棘手问题会留待事后在法庭或警方调查中处理。但对于自动驾驶汽车来说，决策将在几毫秒内作出，根本来不及充分了解情况后再作判断。关键不在于我们知道什么，而在于汽车知道什么。因此，问题在于自动驾驶汽车应掌握周围人群的哪些信息。企业是否应该获准提供不同的伦理体系，以谋求竞争优势？
设想这样一种情境：中国制造的汽车与美国制造的汽车在工厂标准上有所不同，但前者被运往美国并在那里使用。两辆车即将发生无法避免的碰撞。如果中国制造汽车的驾驶者与美国制造汽车的驾驶者有不同的伦理偏好，应由哪套体系占上风？
除了基于文化的伦理偏好差异，还必须考虑各国数据监管方面的不同。例如，中国制造的汽车可能能够获取社会评分数据，使其决策算法纳入美国汽车制造商无法获得的其他信息。更丰富的数据可能带来更好、更一致的决策，但这种优势是否应该允许一套体系凌驾于另一套体系之上？
显然，在自动驾驶汽车大规模上路之前，我们需要明确算法决策责任归属：责任究竟在市政当局、国家政府还是多边机构。除此之外，我们还需要新的框架来治理商业与政府的交汇领域。问题不仅在于自动驾驶汽车在极端情境下会怎么做，还在于企业在开发和部署决策算法时，如何与不同文化互动。
不难想象，所有自动驾驶汽车制造商都会宣传这样的伦理体系：将驾驶者的生命置于一切之上，或者允许用户自行切换伦理设置。要防止这种“公地悲剧”，就必须建立框架，让自动驾驶汽车能够彼此通信并协调决策。然而，在不同文化背景下开发这类系统时，政策制定者和企业将直面关于主权、隐私和个人自主权的不同文化观念。
这带来了更多挑战，因为人工智能系统无法容忍模糊性。从零开始设计人工智能应用需要明确到细节；无论这是好是坏，这些系统只会执行你告诉它们做的事。这意味着企业、政府和其他服务提供者在为不同情境编写应对协议时，必须作出明确选择。
不过，在此之前，政策制定者需要界定算法问责的范围，确定哪些决策（如果有的话）应留给企业或个人。属于国家职责范围的事项必须经过讨论。鉴于这类伦理和道德问题没有简单答案，达成共识的可能性不大。若无法最终解决争议，我们至少需要建立相应机制，促进自动驾驶汽车之间的通信，并裁定算法争端和道路事故。
鉴于设计决策算法需要明确到细节，显然需要一个国际机构制定标准，以据此解决道德和伦理困境。毕竟，自动驾驶汽车只是算法决策的一种应用。展望未来，算法问责标准必须在许多领域得到管理。
归根结底，我们必须首先决定：企业是否有权为算法决策设计不同的伦理框架。我们认为企业无此权利。
在人工智能时代，全球价值链中的某些环节终将自然而然地实现自动化；届时，这些环节将不再被视为企业谋求竞争优势的领域。确定并裁定算法问责的流程也应属于这类领域。无论如何，决策终将作出。最好以统一且尽可能民主的方式解决这些问题。
