如今，很难想象还有哪种技术像机器学习一样，既令人着迷又令人恐惧。媒体报道和研究论文不断宣扬机器学习有望成为推动商业和社会积极变革的最大力量，但每个人心中挥之不去的问题是：“可是，如果一切都出了大问题呢？”
多年来，专家一直警告通用人工智能（AI）可能对社会产生意想不到的影响。雷·库兹韦尔预测，到2029年，智能机器将能胜过人类。斯蒂芬·霍金认为：“一旦人类开发出完整的人工智能，它就会自行发展，并以越来越快的速度重新设计自身”。埃隆·马斯克警告说，人工智能可能构成“对人类文明存续的根本性威胁”。媒体上充斥着对通用人工智能可怕潜力的危言耸听之论。
更多时候，这些反乌托邦式预言引发了人们对更符合伦理地应用人工智能系统的呼吁；有人认为，工程师应当设法为自主系统注入伦理意识。一些人工智能专家认为，我们可以教会未来的机器人统治者辨别是非，就像打造一个“乐善好施的人工智能”，让它始终能够自主公正行事，并帮助陷入困境的人类。
这种未来仍遥不可及，至于我们是否能达到通用机器智能的水平、又将如何实现，目前仍有诸多不确定性。但眼下更重要的是，即使是现有的狭义人工智能应用，在实际日常情境中作出道德判断的方式也亟需我们关注。例如，算法决定谁能获得贷款，或自动驾驶汽车在危险情境下必须权衡人的生命价值时，都涉及这一问题。
教机器道德很难，因为人类无法以客观、可衡量且便于计算机处理的指标来表达道德。事实上，甚至可以质疑我们人类是否真正理解道德，是否能够对此达成共识。在道德困境中，人类往往依靠直觉，而不是复杂的成本效益计算。机器则需要明确、客观、可清晰衡量和优化的指标。例如，人工智能选手可以通过反复对局学会优化得分，从而在规则和界限清晰的游戏中表现出色。
在进行雅达利视频游戏深度强化学习实验后，Alphabet旗下的DeepMind得以击败人类顶尖围棋选手。与此同时，OpenAI积累了相当于“数辈子”的经验，以便在Valve的Dota 2锦标赛中击败人类顶尖选手；该赛事是全球最受欢迎的电子竞技比赛之一。
但在现实情境中，优化问题要复杂得多。例如，如何教会机器通过算法实现公平最大化，或克服训练数据中的种族和性别偏见？除非设计人工智能系统的工程师对公平有准确的认识，否则机器就无法学会什么是公平。
这使一些作者担心，将算法简单地应用于日常问题，可能会加剧结构性歧视，并再现其所依据数据中的偏见。在最坏的情况下，算法可能拒绝向少数群体提供服务，妨碍人们获得就业机会，或让错误的政治候选人当选。
根据我们在机器学习领域的经验，我们认为，可以通过以下三种方式着手设计更符合伦理的机器：
1. 明确伦理行为
人工智能研究人员和伦理学家需要将伦理价值观制定为可量化的参数。换言之，他们需要为机器提供明确的答案和决策规则，以应对可能遇到的任何伦理困境。这就要求人类彼此就任何特定情境下最符合伦理的行动方案达成一致——这项任务很有挑战性，但并非不可能。例如，德国自动化与联网驾驶伦理委员会建议将伦理价值观明确编入自动驾驶汽车的程序，优先保护人的生命。在无法避免的事故中，汽车应“不得在受害者之间作取舍”。换言之，当碰撞不可避免时，汽车不应根据年龄、性别或身体状况、精神状况等个人特征，选择牺牲某个人。
2. 汇集众人的道德判断
工程师需要收集足够的明确伦理标准数据，以便适当地训练人工智能算法。即使我们已经为伦理价值观定义了具体指标，如果没有足够的无偏数据来训练模型，人工智能系统仍可能难以掌握这些指标。获取合适的数据并非易事，因为伦理规范并不总能得到明确统一的标准。不同情境需要不同的伦理方法，有些情况下甚至不存在唯一符合伦理的行动方案——例如，目前正在为军事用途开发的致命性自主武器。一种解决办法是向数百万名人类征集道德困境的潜在解决方案。例如，麻省理工学院的道德机器项目展示了如何利用众包数据，有效训练机器在自动驾驶汽车相关情境中作出更好的道德判断。
3. 提高人工智能的透明度
政策制定者需要实施相关准则，提高人工智能在伦理方面决策的透明度，尤其是伦理指标和结果的透明度。如果人工智能系统出现错误或造成不良后果，我们不能接受“这是算法干的”作为合理借口。但我们也知道，要求算法完全透明在技术上行不通（坦率地说，也没多大用处）。神经网络过于复杂，人类审查人员无法对其进行细致审查。因此，应当提高以下方面的透明度：工程师在编程前如何量化伦理价值观，以及人工智能基于这些选择产生了什么结果。例如，对于自动驾驶汽车，可以始终保留所有自动化决策的详细日志，以确保其伦理责任可追溯。
我们认为，这三项建议应被视为开发符合伦理的人工智能系统的起点。如果未能将伦理融入人工智能系统，我们就可能陷入一种危险境地：任由算法替我们决定什么才是最好的。例如，在无法避免的事故中，自动驾驶汽车无论如何都需要作出某种决定。但如果汽车设计者未能明确一套可作为决策指引的伦理价值观，人工智能系统就可能得出造成更大伤害的解决方案。这意味着我们不能简单地拒绝量化自身价值观。回避这一关键的伦理讨论，本身就是在作出隐含的道德选择。随着机器智能在社会中日益普及，无所作为的代价可能十分巨大，甚至会对数十亿人的生活造成负面影响。
不能想当然地认为机器天生就有道德行为能力。人类必须教会它们什么是道德，以及如何衡量和优化道德。对于人工智能工程师来说，这或许是一项艰巨任务。毕竟，纵观历史，定义道德价值观一直是人类苦苦探寻的难题。尽管如此，人工智能研究的现状要求我们最终明确道德的定义，并用明确的术语加以量化。只要缺乏关于善良人类的准则，工程师就无法打造“乐善好施的人工智能”。
