自主机器和决策可能导致致命错误。
机器人错误导致的死亡会带来道德困境，正如“电车难题”一样。
有理由认为，如果社会拥抱机器学习，并致力于负责任地部署机器人技术，就能挽救许多生命。
机器人技术的进步意味着，未来20年，自主车辆、工业机器人和医疗机器人将更强大、更独立，也将得到更广泛的应用。最终，这些自主机器可能会出现决策失误，导致数十万人死亡；如果有人类参与其中，这些死亡本可以避免。
这样的未来确实令人相当担忧，但如果社会负责任地采用机器人技术，挽救的生命将多于失去的生命。
机器学习过程
机器人并非由人类“编程”来模仿人类决策；它们从大型数据集中学习，运用从数据中推导出的复杂数学公式执行“识别红色交通信号灯”等任务。机器学习过程所需的数据远多于人类所需的数据。不过，经过训练后，机器人在任何特定任务上的表现都将超过人类。过去五年，人工智能和机器人技术通过机器学习大幅提升了性能。
我们可以以自动驾驶为例，尽管以下理论也适用于医疗保健、制造业及其他快速实现自动化的行业。一名经验丰富的人类驾驶员一生的驾驶里程可能有几十万英里，而Waymo——谷歌旗下的自动驾驶汽车公司——仅就完成了超过230万英里的行驶里程，而且是在2021年一年内完成的。它的人工智能技术可以同时从其部署的每一辆汽车中学习；这些汽车从不疲倦，也不会忘记所学经验。
特斯拉最初推出“智能召唤”功能时，车主可以让汽车自行驶出停车位并绕开障碍物，许多用户抱怨其性能不佳。但几周之内，特斯拉就收集了早期用户的数据，并重新训练了机器学习模型。因此，“智能召唤”功能的性能大幅提升，成为特斯拉的一项关键差异化优势。
自主机器人救命者
随着可供学习的数据越来越多，人工智能正迅速进步，变得更准确、更具适应性，也更安全。随着机器人逐渐进入日常生活并得到广泛应用，其用途也会不断增加，这预示着功能型机器人将采取循序渐进的推广策略。自动驾驶将从“手动操作”迈向“解放双手”，再到“解放双眼”、 “解放心智”，最终实现“没有方向盘”。
中国的文远知行就是一个很好的例子。这家自动驾驶汽车公司已在中国多个城市部署自动驾驶小巴和街道清扫车。与自动驾驶出租车相比，它们目前在限制更多的环境中运行，因此比人类驾驶员操作安全得多。然而，这些受限车辆会收集海量数据，最终摆脱这些限制。
随着机器人从简单走向复杂，人们将收集更多数据，以提升其性能和安全性。例如，自动驾驶汽车通过减少人为失误（道路事故最常见的原因），未来十年，仅在英国就可能避免4.7万起严重事故，挽救3900条生命。兰德公司发现，即使自动驾驶汽车只比人类安全10%，也能挽救生命。
道德困境
大规模推广机器人仍面临重大担忧，其中包括一种道德反对意见：任何人因机器失误而丧生都不可接受。电车难题是一种伦理困境：旁观者可以改变失控电车的行驶方向，让它撞死一人，从而救下五人。这个难题说明，决定谁生谁死本质上属于道德判断，因此不能交由没有情感的机器作出。
由于机器人和人类的感知方式不同，导致它们犯下不同类型的错误，这加剧了这种“道德困境”。例如，机器人反应极快，注意力不易分散，但可能会误认危险；曾有一辆优步自动驾驶汽车把一名行人推着自行车横穿马路的情形误认为是一辆汽车，并预计它会以比实际更快的速度行驶。
人类和机器所犯错误之间的差异，使公众更难接受机器人导致的死亡，尤其是当每起事件都引发与2018年凤凰城致命事故相同的媒体反应时。如果媒体以严厉标题过度谴责每一起机器人致死事件，就可能摧毁公众对自主系统的信心，尽管这项技术有望挽救数百万人的生命。
人类驾驶员造成致命事故时，会受到法律审判并承担法律后果。但“人工智能黑箱”无法向法官和公众解释其决策过程，使之在人类看来合乎情理，或在法律和道德上站得住脚。
另一个问题是问责。在凤凰城事故中，人类备用驾驶员被控过失杀人。但汽车制造商、人工智能算法提供商或编写算法的工程师是否也应承担责任并负有法律责任？只有明确问责机制，才能围绕它建立相应的生态体系。
人工智能与机器学习时代的电车难题
由于机器人技术有望挽救许多生命，因此有人主张，一旦证明其表现略胜于人类，就应推出这类技术。因此，应抓住一切机会推出辅助人类的机器人工具，然后再赋予机器人更大的自主权。之后，应先在受限环境中推广，再扩大应用范围。这样做可以收集更多数据，提升机器人性能，并尽量减少生命损失。
考虑到可能出现的反对意见，我们需要共同努力，传达短期代价以及其中的长期收益。这样才能推动机器人技术以负责任、审慎的方式逐步推广，使这一采用过程为人类带来更大的福祉。
