麻省理工学院副教授伊亚德·拉万邀请300万人思考无人驾驶汽车面临的“电车难题”。
电车难题是这样的：一辆失控的电车正沿着轨道冲向五个人，他们无法躲开。但你可以拉动操纵杆，让电车驶入一条岔道，而你看到那里站着一个人。你会怎么做？
但正如拉万所说，一旦考虑到无人驾驶汽车，电车难题就变得更加棘手。第一个情境把道德责任交给了一个人。但如果无人驾驶汽车陷入进退两难、必须做出选择的境地，我们就是在让日常生活环境中的机器人来做决定。
拉万在接受《商业内幕》采访时说：“由某个制造厂里不知名的人编写算法，让机器人据此做出关乎生死的决定，这个想法对我们人类来说还非常新鲜。”
拉万的研究凸显了一个难题：如果无人驾驶汽车发生事故，应该如何应对？汽车是否应该被编程，以便在棘手情境中采取特定行动？
随着汽车制造商不断推进无人驾驶汽车项目，电车难题的讨论长期以来一直处于幕后。2015年10月，拉万与人合著了一篇论文《自动驾驶汽车需要实验伦理学》。
不过，可以说，拉万推出“麻省理工学院道德机器”后，这场辩论才成为讨论焦点。这是一个网站，提出一系列伦理难题，通过征集公众意见，了解人们认为无人驾驶汽车在棘手情况下应如何反应。“道德机器”是拉万2015年研究的延伸。
拉万表示，自2016年8月网站上线以来，麻省理工学院已收集到全球300万人做出的2600万项决定。他目前正在分析文化差异是否会影响人们给出的回答。
拉万承认，这场辩论本身也有缺陷。电车难题刻意设置得很简单，以便人们更容易理解，让研究人员能够真正评估人们的心理反应过程。
他说：“这样做的缺点是，情境看起来很不现实，仿佛永远不会发生，或者发生的概率极低。”
拉万说：“不过，这并不意味着这些问题不值得探讨。”
他说：“他们需要回答这个问题，因为归根结底，关键不在于某个具体情境或事故，而在于算法必须遵循什么总体原则来判断相对风险。”
一些汽车制造商已公开回应这一问题。
10月，梅赛德斯-奔驰驾驶辅助系统经理克里斯托夫·冯·胡戈表示，未来的自动驾驶汽车在两难情境中会优先保护驾驶员。
他在接受《汽车与驾驶员》采访时说：“如果你知道至少能救一个人，那就至少救下那个人。救车里的人。”《汽车与驾驶员》“如果你唯一能确定的是可以避免一人死亡，那这就是你的首要任务。”
报道刊出后，梅赛德斯向多家媒体表示，这段引述断章取义。一名戴姆勒发言人在发给《商业内幕》的电子邮件中重申了这一立场：
这名发言人写道：“对戴姆勒而言，程序员和自动化系统都无权衡量人的生命价值。我们从未做出过有利于车内乘员的决定。我们将继续坚持这一原则：为所有道路使用者提供尽可能高水平的安全保障。”
拉万还表示，工程师不太可能在算法中编入某个具体决定。
拉万说：“没人会造出一辆车，让它认定一个孩子的生命价值相当于一个半成年人，或诸如此类。这不太可能。”
拉万说，汽车制造商应公开其数据，以便独立研究人员评估某些无人驾驶汽车的行为是否存在偏见。例如，如果数据显示某辆无人驾驶汽车对特定人群造成不成比例的伤害，比如更容易撞上骑自行车的人而非行人，程序员就应重新审视算法，查明问题所在。
美国国家公路交通安全管理局在一份9月报告中承认，即使没有明确编程要求，无人驾驶汽车也可能偏向某些决定而非其他决定。
无人驾驶汽车将依赖机器学习——这是人工智能的一个分支，能够让计算机（在此即汽车）随着时间推移不断学习。由于汽车会自行学习如何适应驾驶环境，它们可能会学会偏向某些结果。
美国国家公路交通安全管理局在报告中写道：“即使没有意图设定明确的伦理规则或偏好，高度自动化车辆（HAV）的编程也可能形成隐含或固有的决策规则，并带来重大的伦理后果。”该机构还补充说，制造商必须与监管机构合作，处理这些情况。
拉万表示，针对特定结果进行编程并非正确做法，但他认为企业应该采取更多行动，让公众知道它们正在考虑无人驾驶汽车的伦理问题。
他说：“从长远来看，我认为必须采取行动。需要制定某种更具体的指导方针，这才是赢得公众信任的唯一途径。”
