随着AI驱动的服务应用日益广泛，关于如何确保这些系统得到负责任的部署，目前仍未形成共识。
为解决这一问题，我们呼吁引入风险/收益评估框架。
以下是为有意设计此类框架的组织提出的12项考量。
过去十年间，人工智能（AI）已成为驱动第四次工业革命的软件引擎，这一技术力量影响着所有学科、经济体和行业。
AI驱动的服务已被应用于打造更个性化的购物体验、提升生产力以及提高农业效率。这一进展在重要方面令人瞩目，但也带来了独特的挑战。各类研究已经证实，若缺乏适当监管，AI可能复制甚至加剧人类的偏见与歧视，或引发其他意料之外的后果。当AI应用于刑事司法、医疗、银行或就业等高风险领域时，这一问题尤为突出。
政策制定者和行业参与者对AI所带来的机遇与风险的认识日益增强。然而，对于应引入哪些监管流程以确保AI系统的可信部署，即确保特定AI系统的行为符合一系列规范（这些规范的范围可从立法（如欧盟的《反歧视法》）延伸至一套组织性指导准则），目前仍未形成共识。
这些困难很大程度上与深度学习系统的运作方式有关：利用神经网络进行模式分类，而神经网络可能包含数亿个参数，这可能导致不透明且难以直观理解的决策过程。这使得漏洞或不一致之处极难被发现。
当前为识别和减轻AI系统风险所做的努力
为应对这些挑战并让所有人享有AI的益处，我们呼吁引入风险/收益评估框架，以识别和减轻AI系统中的风险。
此类框架可通过以评估标准和使用场景为依据，确保识别、监测并减轻与特定AI系统相关的风险。这与当前的普遍做法有所不同：行业内的普遍做法是使用训练数据集训练系统，再用另一数据集对其进行测试，以揭示其平均情况下的性能表现。
政府和行业内部目前正在开展多项设计此类框架的工作。去年，新加坡发布了《AI治理模型框架》，为寻求负责任地部署AI的私营部门组织提供了易于实施的指导。最近，谷歌发布了一套用于AI系统内部审计的端到端框架。
设计风险/收益评估框架的关键考量因素
基于现有文献，我们共同制定了相关指导方针，以支持有意通过合理的风险/收益评估框架设计可审计AI系统的组织：
1. 论证引入AI驱动服务的理由
在考虑如何减轻AI驱动服务相关风险之前，有意部署此类服务的组织应清楚地阐明其既定目标，以及这些服务预期将如何惠及各利益相关方（如终端用户、消费者、公民和整个社会）。
2. 采取多利益相关方方法
项目团队应识别与每个特定项目相关的内部和外部利益相关方，并向其提供有关所设想使用场景以及所考虑AI系统规格的相关信息。
3. 考虑相关法规并借鉴现有最佳实践
在考虑特定AI驱动解决方案相关的风险与收益时，应将相关的人权和公民权利纳入影响评估之中。
4. 在AI驱动服务的整个生命周期中应用风险/收益评估框架
AI软件与传统软件开发之间的一个重要区别在于学习特性（即底层模型会随数据和使用而演变）。因此，任何审慎的风险评估框架都必须同时纳入构建阶段（设计）和运行阶段（监测与管理）。此外，该框架还应能够在构建阶段和运行阶段，从多利益相关方的视角进行评估。
5. 采取以用户为中心、基于用例的方法
为确保风险/收益评估框架切实可行，应从项目团队的视角出发，并围绕具体用例进行设计。
6. 明确列出风险优先级排序方案
不同利益相关方群体对风险/收益的认知和容忍度各不相同。因此，必须实施相关流程，说明风险与收益的排序方式以及如何协调相互竞争的利益。
7. 定义性能指标
项目团队应与主要利益相关方协商，明确界定用于评估AI驱动系统是否适用于其预期用途的清晰指标。此类指标应既涵盖系统狭义界定的准确性，也涵盖系统更广义界定的适用性方面（包括监管合规性、用户体验和采用率等因素）。
8. 定义运营角色
项目团队应清晰界定人类角色在任何AI驱动系统部署和运行中的职责。该定义应明确说明系统有效运行所需的每个角色的职责、担任该角色所需的能力，以及未能按预期履行这些角色所带来的风险。
9. 明确数据需求与数据流
项目团队应明确任何AI驱动系统有效训练、测试和运行所需的数据量及数据性质。项目团队应梳理系统运行过程中预期的数据流（包括数据获取、处理、存储和最终处置），并明确在数据生命周期的每个阶段维护数据安全与完整性的保障措施。
10. 明确问责链条
项目团队应梳理任何AI驱动系统所产生结果（包括中间结果和最终结果）的责任链条。此类责任图应使第三方能够评估系统出现任何意外结果时的责任归属。
11. 支持鼓励试验的文化
组织应倡导在部署AI驱动服务时享有试验的权利，以鼓励审慎承担风险。在实践中，这需要开展可行性和验证性研究，鼓励跨部门及跨专业领域的协作，并通过专门平台分享知识与反馈。
12. 创建教育资源
建立一个包含各类风险/收益评估框架、其性能表现及修订版本的资料库，是培养组织在部署AI驱动服务方面强大能力的关键。
我们希望，这些指导方针能帮助有意将AI伦理落到实处的组织提出正确的问题、遵循最佳实践，并在流程中识别和吸纳合适的利益相关方。我们并不认为自己对这一重要议题作出了最终定论，而是希望助力组织在负责任地部署AI的道路上前行。
