我们每天都在基于风险作出决定——比如在路上无车时横穿马路去赶公交，但路上车多时则不会。有时，这些决定必须在瞬间作出，面对严峻的情况：一个孩子突然冲到你的车前，而两侧还有其他危险，比如一只猫和一处悬崖。你如何抉择？你是否会冒着自身安全的风险去保护他人？
既然 自动驾驶汽车已经到来 ，而且没有快速或可靠的方式可以覆盖控制——甚至根本没有任何方式——汽车制造商正面临一个算法伦理困境。车载计算机已经在为我们泊车、以巡航控制行驶，并可能在关乎安全的紧急情况下接管控制。但这意味着它们将面临有时人类也会遇到的艰难抉择。
如何为计算机的伦理计算编程？
针对每种可能的结果，计算伤亡人数最少的方案，并选择该路线。每个生命个体都将受到同等对待。
针对每种可能的结果，计算儿童伤亡人数最少的方案，并选择该路线。
为每个人赋值10分，每只猫4分，每只狗2分，每匹马1分。然后计算撞击中每种情形的总分，并选择总分最低的路线。因此，一大群狗的优先级将高于两只猫，汽车会作出反应以拯救这些狗。
通过计分卡为无人驾驶汽车设定可编程伦理。
作者提供
如果汽车在此评估中也将其驾驶员和乘客纳入考虑，这意味着有时车外人员的得分会高于车内人员，那会怎样？有谁愿意登上一辆在必要时会牺牲自己的汽车呢？
一项最近的研究 由法国图卢兹经济学院的Jean-Francois Bonnefon完成，表明这些问题并无绝对的对错之分。该研究通过 Amazon’s Mechanical Turk 平台招募了数百名工作者，分析他们对以下情形的看法：当汽车急转并撞上护栏、导致驾驶员死亡时，能否挽救一名或多名行人。随后，研究人员改变了可获救行人的人数。
Bonnefon发现，大多数人赞同汽车应当编程以尽量减少死亡人数的原则，但一旦涉及情境的具体细节，他们便不那么确定了。他们希望别人使用自动驾驶汽车，自己却没那么热衷。因此，人们往往会产生一种功利主义的本能，即拯救他人生命、牺牲汽车乘员，但若该乘员恰好是自己，则另当别论。
智能机器
科幻作家长期以来有充分的空间描写机器人统治世界的题材（《终结者》 等众多作品），或描写一切言论都被记录和分析的情景（例如 奥威尔的《1984》）。虽然我们花了一些时间才走到这一步，但科幻小说的许多经典元素正逐步成为主流科学与技术。互联网和云计算为实现飞跃式的进步提供了平台，并展现出人工智能与人类相抗衡的态势。
在斯坦利·库布里克具有开创意义的电影 《2001：太空漫游》中，我们可以窥见未来的些许端倪：计算机会根据任务的优先级作出决定，飞船上的计算机HAL说道：“这项任务太重要了，我不能允许你危及它。”
机器智能正出现在我们的各类设备中，从手机到汽车，无所不包。 英特尔预测 到2020年将有1.52亿辆联网汽车，每年产生超过11PB的数据——足以填满4万多块250GB的硬盘。它有多智能？正如英特尔所言，（几乎）与你一样聪明。汽车将共享并分析一系列数据，以便在行驶中作出决策。在大多数情况下，自动驾驶汽车很可能比人类更安全，这话大体不假，但我们真正关注的是那些例外情况。
作家艾萨克·阿西莫夫著名的 机器人三定律 提出了未来设备将如何应对在危险情境中作出决策的需要。
机器人不得伤害人类，也不得因不作为而使人类受到伤害。
机器人必须服从人类给予它的命令，除非这些命令与第一定律相冲突。
机器人必须保护自身的存在，只要这种保护不与第一或第二定律相冲突。
他甚至还增补了一条更为根本的“第零定律”，置于其他定律之前：
机器人不得伤害人类整体，也不得因不作为而使人类整体受到伤害。
阿西莫夫并未探讨我们所面临的汽车碰撞伦理困境，但随着传感器更加先进、可采集的数据来源更多、处理能力更强，行动决策已被简化为冷冰冰的数据分析。
当然，软件向来以漏洞频出著称。那些入侵这些系统的恶意行为者可能造成何种破坏？当机器智能从人类手中接管控制权时，又会发生什么？这样做真的正当吗？毕竟，在2001年，戴夫在忍无可忍地不满于HAL的决策时，不得不采取紧急行动。
未来的买家能否购买可编程的伦理选项，以定制自己的汽车？这相当于人工智能版的保险杠贴纸，上面写着“我从不为任何人刹车”？如果真是如此，你如何得知汽车可能会如何行动？而如果你知道了，你还会登上这辆车吗？
此外还有法律问题。如果汽车本可以介入以挽救生命，却没有这样做呢？或者，如果它基于自身的伦理算法而故意撞倒行人呢？当我们驾驶汽车时，这是我们作为人类所承担的责任，但机器只是服从指令，那么，谁（或什么）为一项决策承担责任？正如我们在智能手机的人脸识别、机场监控乃至Facebook上所看到的那样，计算机识别物体已不太困难，并能根据车速和路况快速计算出一系列结果、挑选其一并采取行动。而当它这样做时，你几乎没有任何选择余地。
本文与 The Conversation合作发表。刊发本文并不意味着世界经济论坛认同文中观点。
要及时了解议程动态， 请订阅我们的每周电子通讯。
作者：Bill是爱丁堡纳皮尔大学教授，同时也是英国计算机学会（BCS）和英国工程技术学会（IET）的会士。
图片：人们乘坐一辆无人驾驶电动车。REUTERS/Edgar Su。
