确保企业人工智能合乎伦理的8种方法

A code of ethics?
A code of ethics?Image: Ali Shah Lakhani on Unsplash.com
本内容由人工智能自动翻译。
  • 只有付诸实施,对人工智能伦理的承诺才有价值。

  • 分享最佳实践将变得越来越重要。

  • 以下是企业将伦理融入人工智能的8条经验。

跟上人工智能(AI)和数据隐私的发展步伐可能令人应接不暇。人工智能前景广阔、机遇众多,但数据滥用和个人隐私面临风险的担忧也随之而来。在我们评估这些议题之际,随着第四次工业革命的展开,关于人工智能的前景与隐患,以及各组织如何更好地实现其价值,问题也随之浮现。

对于工程师和开发人员而言,将“伦理”融入科技产品可能显得抽象。尽管许多科技企业都在独立探索以具体、可见的方式实现这一目标,但我们必须打破这些壁垒,分享最佳实践。通过相互协作、彼此学习,我们可以提升整个行业的标准。而一个良好的起点,是专注于那些能够赢得信任的事情。

许多企业都在发布关于人工智能产品设计与部署方式的高层原则。但只有真正付诸实施,这些原则才有价值。Workday近期发布了我们的人工智能伦理承诺,以展示我们如何将原则落到实处。这些原则直接建立在我们的核心价值观之上,即客户服务、诚信和创新。基于我们的实践经验,以下是八条经验,供希望在整个组织内推动这些原则的科技企业参考:

1. 明确“人工智能伦理”的含义。该定义需要具体且可操作,适用于企业内所有相关利益相关方。在我们公司,这意味着我们的机器学习(ML)系统体现了我们对人工智能伦理的承诺:我们以人为本;我们关注社会;我们公平行事并尊重法律;我们保持透明并承担责任;我们保护数据;我们交付可供企业使用的机器学习系统。

2. 将人工智能伦理纳入产品开发与发布框架。这些不能是各自独立的流程,否则只会给开发人员和产品团队带来更多工作和复杂性。Workday已将我们的原则融入产品开发的整体架构,并建立了能够推动持续合规的流程。我们已将新的机器学习控制措施纳入正式的控制框架,作为对我们机器学习伦理原则的额外执行保障。我们的开发团队通过伦理视角审视每一款机器学习产品,询问数据收集与数据最小化、透明度以及价值观等相关问题。我们在隐私领域有着长期的相关实践,包括隐私保护设计流程,以及依据我们的控制措施和标准开展的第三方审计。Workday已采纳一套用于机器学习的伦理设计控制措施,并建立了稳健的审查和批准机制,用于新技术的发布以及任何新的数据用途。我们承诺持续审查我们的流程,并不断调整以纳入新的行业最佳实践和监管指引。

3. 组建跨职能专家小组负责指导负责任的机器学习和人工智能在设计、开发与部署方面的所有决策。在这一历程的早期,Workday成立了一个机器学习工作组,成员来自产品与工程、法务、公共政策与隐私、伦理与合规等团队的专家。这些小组审查我们产品中现有和未来的机器学习应用。将这些不同技能和视角的人汇集在一起,共同讨论我们产品中现有和未来的机器学习应用,效果确实非常显著,使我们能够在产品生命周期的早期发现潜在问题。

4. 将客户协作纳入负责任人工智能的设计、开发与部署。Workday在产品开发周期中,会邀请客户咨询委员会参与,该委员会成员来自广泛的客户群体,以就我们与人工智能和机器学习相关的开发主题收集反馈。此外,通过我们的早期采用者计划,我们与一小部分客户密切合作,这些客户作为设计合作伙伴,通过我们的创新服务测试新的机器学习模型和功能。这使我们能够在共同开发以人为本的机器学习解决方案的早期,了解并回应客户对人工智能和机器学习的想法与担忧。

5. 以全生命周期方法应对机器学习中的偏见。机器学习工具为客户利用数据增强人类决策提供了巨大机遇。随之而来的是构建可供企业使用、并能维护客户信任的工具的责任,这也是我们人工智能伦理承诺的重点之一,即减轻机器学习中的有害偏见。我们采用“全生命周期方法”,从新产品的最初构思直至发布后阶段,开展各类偏见评估与审查。

6. 保持透明。机器学习的数据伦理使用需要透明度。由于机器学习算法可能极为复杂,企业应当超越一般要求,充分说明所使用的数据、数据的使用方式以及使用目的。向客户解释您的机器学习技术如何运作及其所提供的益处,并说明支撑任何机器学习解决方案所需的数据内容。在您向客户提供的机器学习解决方案中体现问责。

7. 赋能员工设计负责任的产品。我们通过强制性的伦理培训模块、工具包、研讨会、员工入职培训和工作坊来实现这一点,确保员工掌握如何践行我们的人工智能伦理承诺。例如,一场以人为本的设计思维工作坊通过不同的场景和用户画像,帮助Workday员工理解我们在打造符合伦理的机器学习技术方面的承诺。

8. 分享所知并向行业内其他人学习。我们通过参与行业团体和同行会议来实现这一点,例如参与世界经济论坛“技术的伦理设计与部署”指导委员会,技术的伦理设计与部署,共同为科技行业制定伦理框架。此外,Workday将监测并参与新标准和新规划视为优先事项。在美国,我们与立法者和政府机构官员就人工智能伦理展开了深入接触,包括筹办并参与一场“国会人工智能核心小组”的国会人工智能核心小组工作人员简报会,主题为“人工智能伦理的行业路径”,并在多个场合充当行业与政策制定者之间的召集人。此外,我们还支持美国国家科学基金会对《国家人工智能研发战略计划》的更新,并支持美国国家标准与技术研究院(NIST)编写其报告《人工智能标准与工具开发》。我们持续倡导NIST在人工智能伦理工具开发中发挥更大作用。在欧洲,Workday参与了一项试点项目,以评估欧盟高级别专家组伦理指南(HLEG)的《可信人工智能评估清单》。

在我们应对不断演变的人工智能伦理世界时,分享实践经验并总结我们在过程中所学到的东西,将比以往任何时候都更加重要。我们热切希望听取他人关于哪些方法在规模化与实施中行之有效的看法,也乐于分享我们的经验。事实上,Workday与世界经济论坛开展合作的目的,正是鼓励更多人加入我们,分享他们在倡导负责任且合乎伦理的技术方面的最佳实践。追求负责任、合乎伦理的人工智能和技术至关重要,其意义远超任何单一企业或组织。与世界经济论坛的合作,旨在鼓励他人与我们一道,分享他们在倡导负责任且合乎伦理的技术方面的最佳实践。追求负责任、合乎伦理的人工智能和技术至关重要,其意义远超任何单一企业或组织。

我们应当通过行动共同建立善意与信任,从而让这些强大的新技术惠及大众。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。