设计负责任且合乎伦理技术的4项经验：微软案例研究

• 负责任的创新始于文化变革与恰当的工具。

• 微软从新的原则体系、角色扮演演练到员工绩效目标，多管齐下，助力开发更负责任、更具包容性的人工智能。

• 使员工队伍在负责任创新目标上保持一致，有助于追踪企业内部标准化的进展。

尽管初衷良好，企业中往往存在合乎伦理行事的意愿与将这些良好意图付诸实践之间的差距。

我们将此称为意图—行动差距。弥合这一差距，是确保技术以更负责任、更具包容性的方式开发的关键。

为助力弥合意图与行动之间的差距，世界经济论坛近期启动了一项项目，旨在挖掘在技术领域落实伦理方面取得进展的组织所采用的工具、流程与经验。该项目研究微软如何在其逾145,000名员工中落实负责任创新实践，考察了公司文化的演变、其所创建的工具与流程，以及这些努力的成效。

本研究的见解汇集于题为 《负责任地使用技术：微软案例研究》的报告，该报告由世界经济论坛与圣克拉拉大学应用伦理马库拉中心联合撰写。本研究的四大核心经验概述如下。

1. 负责任的创新始于文化变革。

2014年，萨蒂亚·纳德拉（Satya Nadella）出任微软首席执行官，他带来了“成长型思维”这一理念。该理念由研究者卡罗尔·德韦克（Carol Dweck）提出，关注思维方式如何影响人类的各项努力。这一思维模式营造了注重内省、创新与学习的氛围，使公司文化能够更深入地思考其技术对社会的影响。

这一理念是在一场技术与公关危机之后被付诸实践的。2016年，微软在Twitter上推出了一款名为“Tay”的人工智能聊天机器人，该机器人遭恶意攻击，开始发表不当和贬损性言论。尽管其他公司可能会推卸责任或转移对此事件的责任，微软却公开致歉。该组织及其员工将这一经历视为成长的契机，并在公司多个层级将人工智能伦理落到实处。

这一努力促成了微软《负责任AI原则》的制定，该原则是2018年确立的一套基础性指导框架。微软通过建立一种治理结构，在全公司范围内落实这些原则。该结构借鉴了过去在将隐私、安全和无障碍功能融入其产品方面已被证明行之有效的中心—辐射（hub-and-spoke）模式。

该中心包括三个内部团队，具体如下：

• 人工智能、伦理与工程研究影响（AETHER）委员会——就负责任AI原则的落实提供科学与工程方面的建议和专业知识；

• 负责任AI办公室（ORA）——负责政策治理、敏感用途及教育职能；以及

• 工程领域负责任AI战略（RAISE）小组——帮助工程师实施负责任的AI工具与系统。

作为该治理模式中辐射节点的是“负责任AI拥护者”（Responsible AI Champs）。这些拥护者分布于公司各部门，是领域专家，负责就微软的负责任AI方法提供建议、协助工作并提升相关认知。

此外，微软还制定了《负责任AI标准》，其中列出了公司各团队在支持负责任AI系统的设计与开发时必须遵循的一系列步骤。这些举措体现了一种经过精心设计的治理模式，此类模式对于支持文化变革及在技术领域落实伦理至关重要。

2. 工具与方法助力落地实施。

在任何变革管理项目中，工具都能让个人更轻松地改变其行为。这一点同样适用于在技术领域落实伦理。

由于数据科学和机器学习（ML）等职业仍处于起步阶段，工具能够帮助从业者更轻松地解释数据科学模型的性能、提升算法的公平性，并识别对落实负责任AI至关重要的伦理问题。

微软的InterpretML、Fairlearn和误差分析（Error Analysis）等技术工具在这一领域作出了重要贡献。具体而言，InterpretML使从业者更易于理解和解释机器学习模型的行为；与此同时，Fairlearn帮助数据科学家评估并提升机器学习模型的公平性。最后，误差分析使数据科学家更容易识别误差率高于基准的群组，并提升模型的准确性。这些工具均为用户提供仪表板，使模型性能更便于可视化。

然而，我们的研究发现，帮助团队以符合伦理的方式审视其工作的工具，同样是促使行为改变的关键。对微软而言，这些工具包括影响评估、Envision AI工作坊、“判断抉择”游戏以及社区陪审团。这些工具分别借助检查清单、角色扮演演练和利益相关方参与，帮助团队考量其产品的潜在后果。有了这些工具，产品团队更容易对受其技术影响、而在科技行业中往往代表性不足的利益相关方培养更强的同理心。

3. 协调一致与衡量影响，建立问责机制。

许多公司依据员工对公司价值观的践行情况来评估其绩效。对于任何希望在技术领域落实伦理的公司而言，它们必须将这一做法延伸至依据公司的伦理技术原则评估和衡量员工绩效。

微软数千名员工在负责任智能原则上的协调一致，始于认知（Cognition）团队。该团队负责开发基于增强现实/虚拟现实、计算机视觉和人工智能技术的产品。

认知团队成员在每年两次的目标设定与绩效评估环节中与经理会面，共同制定一项共享目标，即结合其在组织中的角色落实负责任AI。该体系目前正推广至其他团队，使微软能够围绕其负责任AI工作建立一致性与问责机制，同时衡量每位员工的影响。

4. 负责任的产品是更好的产品。

通过负责任的创新，可以开发出“更优”的产品——质量更高、更具包容性，并更有能力为世界作出贡献。

为打造这些更具问责性的产品，微软的人工智能原则设定了顶层期望。该工具包有助于明确落地实施及产品开发的路径。它还帮助赋能工程师，通过各类机器学习工具、工作坊以及引导性对话，深入了解负责任产品开发的细节。

这些努力的成效已在微软部分产品的功能中显现，例如空间分析、语音同意和Custom Neural Voice，分别强调隐私、有意义的同意以及透明度。若不将这些价值承诺嵌入具体的设计流程——跨越意图与行动之间的差距——这些产品或许会以不那么负责任的方式设计。

这些产品归根结底植根于务实的伦理思考与行动。在我们的研究中，当我们将微软负责任AI的实施情况与《技术领域最佳伦理实践》（由马库拉应用伦理中心于2018年发布）进行比较时，我们发现微软已经实施或已开始实施其中大部分做法。例如，微软的AI原则直接对应所收集的六项最佳实践。

Image: 世界经济论坛

展望未来

这些经验展示了一家公司如何落实负责任创新。这些原则、治理模式和工具可以加以调整，并应用于其他技术和组织。

可以肯定的是，改变不会一蹴而就。企业文化需要朝向负责任创新与伦理行动发生根本性转变。但我们需要的这种根本性转变不仅限于企业文化，还应涵盖整个文化与社会，因为我们正在学习如何将技术用于其最佳用途。认识到这些问题的存在，是探索如何解决这些问题的第一步。

随着越来越多的社会领域开展数字化转型，将有更多组织需要踏上落实技术伦理的历程。若企业不努力改善其文化、流程和产品，我们不仅将无法实现技术为所有人创造更光明未来的承诺，还将遭受技术带来的损害社会、伤害个人的种种影响。

上述努力帮助微软将其理念付诸实践，并弥合了意图与行动之间的差距。他们如今分享这些经验，希望其他机构能从中获益，也能分享其自身经历中的经验。如果更多企业愿意分享自身经验，不仅能实现互利共赢，还将有助于提升更多行业对伦理思考的期待，并有望为全球带来更大的福祉。