迪尔伯特：哇！根据我的计算机模拟，应该可以用常见的家用化学品创造新的生命形式。
多格伯特：这会引出一些棘手的问题。
迪尔伯特：你是指法律、伦理和宗教问题吗？
多格伯特：我想的是停车位。
人工智能是一个令人振奋的技术领域。数学、数据和认知科学相结合，正被用于改进疾病诊断、降低能耗，并在众多领域发现新见解。人工智能也被描绘成对人类生存的威胁，以及社会工程和机器人统治者所构成的反乌托邦未来的预兆。如果人工智能的益处被过度夸大，末日情景也同样如此——但这两个极端反映了我们面临的真实抉择：我们可以有意引导这组强大的技术造福人类，也可以听天由命、祈求一切顺利。
人工智能带来的一些挑战独一无二：软件和机器能够在没有人类参与的情况下（设计和开发阶段之后）作出复杂决策，这或许是最重要、也最令人担忧的一项挑战。但软件和数据系统带来的其他挑战由来已久。如今人们对这项技术充满兴趣，企业也投入大量资金和精力加以利用，这为解决人工智能领域的人权挑战，以及更广泛的数据和数字技术领域的人权挑战，提供了契机。
人工智能对人权的影响引起了一些人的思考；他们最终提出了一系列建议，旨在防止机器学习产生歧视性结果（机器学习是人工智能领域的一个子领域，也是当今占主导地位的人工智能技术）。
这些建议发表于白皮书（今年3月），聚焦商业界在开发和部署机器学习方面的责任，并提出了一套以《联合国人权指导原则》为基础的原则，共有四项：
1. 积极包容
开发人工智能系统时，应考虑哪些人会受到其影响。例如，医疗诊断是一个前景广阔的领域，人工智能可以加快并改进疾病检测。但这类系统应考虑特定人群、年龄组或环境之间的差异。同样，开发这些技术的团队成员多元化，对于创造惠及更多人的技术至关重要。
2. 公平
机器学习依赖海量数据。机器学习人工智能系统利用所谓的训练数据开发：这些大型数据集（例如图像、金融数据和个人信息）经过分类后输入算法，使算法通过“训练”识别某些特征或发现原本可能不可见的趋势。但众所周知，数据中存在许多历史遗留和当下的偏见，从对少数群体过度执法，到贷款获取方面的歧视。如果不纠正这些偏见，也不专门设计算法加以抵消，人工智能系统就很可能会加剧现有歧视。
3. 知情权
人工智能不仅用于辅助贷款、保险索赔和求职申请的决策，也越来越多地用于公共职能领域，包括司法系统。例如，在美国，法院和矫正部门正在使用人工智能辅助作出保释、量刑和假释决定。然而，这些算法往往是“黑箱”，也就是说，使用者不了解其内部运作，因为它们是由他人开发的专有软件。如果某种算法会影响你能否获得抵押贷款、能否得到面试机会，或者——如果你不幸与法律发生纠葛——能否获准保释，你当然希望确保它的评估公平。如果使用者（银行、雇主或法院）根本不知道算法如何运作，这一点就无从保证。我们应始终知道人工智能何时在辅助或作出决策，并有权获知作出该决定的原因。
4. 获得补救的途径
最后，基于知情权，我们不应因为商业或公共职能中的决策过程实现了自动化，就失去有效质疑我们认为不公平的决定的权利。作出错误决定时，我们应获得充分补救，并应有明确的申诉程序。人工智能开发者应定期监测和测试其应用，发现使用中的歧视性趋势并加以纠正。
在围绕人工智能开发和使用的伦理原则展开讨论并加以制定时，至关重要的是以人权框架为基础。人权框架是国际社会唯一共同认可、旨在保护自由、正义、尊严和平等的框架。今年我们庆祝《世界人权宣言》发表70周年；这一框架凝聚了七十年来的实践和不断发展的标准，应成为界定和发展人工智能伦理的核心。
在本文开头的对话中，多格伯特没有理会创造人工生命形式所涉及的法律和伦理影响，反而只担心如何应对停车位需求可能增加的问题。企业也面临这样的抉择：专注于利润底线和短期目标，还是着眼长远，确保所开发的技术造福社会。这个选择将决定我们的未来。
