许多关于自动驾驶汽车的讨论和伦理 思考都聚焦于悲剧性困境，例如一些假设情境：汽车必须决定是撞上一群学童，还是冲下悬崖，导致车内乘员丧生。但这类情境都属于极端情况。
最近一次事故——一辆自动驾驶汽车撞死了一名行人——发生在亚利桑那州坦佩市，正如这起事故所表明的那样，每个斑马线、转弯处和十字路口那些平凡的日常情境，带来的伦理难题更加棘手，涉及面也更广。
极端情境中的伦理问题
作为一名哲学家，我曾与工程师合作，供职于斯坦福汽车研究中心。起初我很惊讶，实验室会议上花时间讨论的竟是一个我以为很简单的问题：自动驾驶汽车应该如何接近人行横道？
我原以为，我们会思考汽车应如何在车内乘客和行人之间做出关乎生死的抉择。我知道该如何思考这类困境，因为这些碰撞情境类似于一个著名的哲学脑筋急转弯——“电车难题”。设想一辆失控的电车沿轨道飞驰，注定要撞上一群五人或一个人——你会牺牲一人来拯救五人吗？
然而，许多 哲学家如今怀疑，研究这类问题是否是有成效的研究方向。芭芭拉·弗里德是我在斯坦福的同事。她曾指出，悲剧性困境会让人们以为伦理难题大多出现在极端而危急的情境中。
事实上，伦理难题无处不在。日常生活中的平凡情境，往往出人意料地棘手而复杂，复杂之处常常十分微妙。例如：你的城市应该把钱花在糖尿病预防项目上，还是多雇一些社会工作者？当地公共卫生部门应该再聘一名餐馆卫生标准检查员，还是继续实施免费提供针头和注射用品的项目？
这些问题极难作答，因为后果存在不确定性——比如谁会受到影响，以及影响有多大。哲学家针对极端、危急情境提出的解决方案，在这里几乎无济于事。
自动驾驶汽车面临的问题也类似。推演极端情境和碰撞场景，无法帮助回答平凡情境中出现的问题。
人行横道上的挑战
有人可能会问，接近人行横道、驶过十字路口或左转这样的日常交通情境，究竟难在哪里？
即使人行横道处视线受阻，有时也难以判断附近的行人是否真的想过马路，驾驶员每天都能应对这类情况。
但对自动驾驶汽车来说，这些平凡情境带来两方面的挑战。
首先，人类觉得容易的事，机器往往觉得难。无论是识别人脸还是骑自行车，我们之所以擅长感知和机械操作，是因为进化赋予了我们这些技能。然而，这也使得这些技能难以通过教学或工程设计传授给机器。这被称为“莫拉维克悖论”。
其次，在未来所有汽车都实现自动驾驶的世界里，驾驶行为的细微变化也会产生巨大的总体影响。换句话说，工程师今天做出的决定，将决定所有汽车如何行驶，而非仅仅一辆车如何行驶。算法将成为政策。
工程师运用机器学习方法，教计算机识别人脸和物体。他们也可以利用机器学习来帮助自动驾驶汽车模仿人类的驾驶方式。但这并不能解决问题：安全与出行方面影响广泛的决策仍由工程师作出。
此外，自动驾驶汽车不应该像人类那样驾驶。人类驾驶员的实际水平并不高。他们的驾驶方式在伦理上也令人担忧：是否在人行横道前礼让，取决于行人的年龄、种族和收入。例如，波特兰的研究人员发现，黑人行人过街时，经过他们身边的汽车数量是白人行人的两倍，而且他们必须多等三分之一的时间才能过马路。
自动驾驶汽车应比人类驾驶得更安全、更公平。
日常伦理
当我们关注人行横道、转弯处和十字路口等日常情境中显现的利益冲突时，伦理问题会变得更加复杂。
例如，自动驾驶汽车的设计需要在保障他人——行人或骑行者——安全与维护车内乘客利益之间取得平衡。汽车一旦超过步行速度，就无法避免撞上最后一秒突然跑到路上的孩子。然而，步行速度当然又太慢了。每个人都需要赶到目的地。那么工程师该如何在安全与出行之间取得平衡？多快的速度才足够安全？
此外还有其他伦理问题。工程师需要在出行与环境影响之间作出取舍。当相关设计应用于全国所有汽车时，由计算机控制的加速、转弯和制动方式稍有变化，就可能对能源使用和污染物排放造成巨大影响。工程师应该如何权衡出行效率与环境影响？
未来的交通应该是什么样？
平凡情境带来了新的工程与伦理问题，也促使人们质疑交通系统的一些基本假设。
我自己开始思考，我们是否还需要所谓的“人行横道”？毕竟，自动驾驶汽车有可能让人们在任何地方过马路都变得安全。
变得多余的也不只是人行横道。十字路口的交通信号灯也可能成为过去。人类需要交通信号灯，以确保所有人都能安全、有序地通过路口。但自动驾驶汽车可以彼此协调，顺畅通行。
更大的问题是：既然自动驾驶汽车比人类驾驶员更出色，为什么还要让汽车遵守为人类的弱点和错误而制定的规则？再把这个思想实验拓展开来，想想这个更普遍的问题：如果我们作为一个社会，可以从头设计交通系统，我们希望它是什么样的？
这些棘手的问题关系到城市或社会中的每一个人，因此需要城市或社会共同商定答案。这意味着要平衡彼此竞争的利益，使方案适用于所有人——无论人们只考虑人行横道，还是着眼于整个交通系统。
有了自动驾驶汽车，各个社会就能重新设计交通系统。从人行横道到整体交通设计，真正提出难题的是平凡情境。极端情境只会分散注意力。
电车难题无法回答这些棘手的问题。
