除非企业进行根本性变革，转型为以“负责任AI”为驱动的组织，否则大规模部署AI仍将面临诸多问题。
企业应拥抱这一转型，因为对AI系统的信任将成为决定哪些企业值得开展业务合作的关键因素。
以下指南旨在帮助企业实现规模化的负责任AI。
机器学习是一项革命性技术，已开始从根本上颠覆企业的运营方式。因此，正如麦肯锡公司（McKinsey & Company）的报告所示，企业争相将其融入自身流程也就不足为奇了。《全球AI调查》。与此同时，仅有极小比例的企业已成功实现人工智能（AI）的规模化部署——这一过程似乎更加困难，因为关于AI不道德使用的报道时有出现，公众也日益担忧其潜在的负面影响。
除非企业进行根本性变革，转型为以“负责任AI”为驱动的组织，否则这些困难很可能会持续存在。在实践中，这需要应对与AI相关的治理挑战，继而设计并执行稳健的战略。为帮助企业规模化部署负责任的AI，我们提供了一份五步指南。
AI带来独特的治理挑战
我们身处一个充满不确定性的世界。构建能够在一定程度上应对这一基本现实的学习系统，即无需显式编程即可从数据中发现模式和关联，这代表着巨大的机遇。
然而，我们仍有理由担忧，因为机器学习也带来了独特的治理挑战。首先，这些系统严重依赖数据，这促使企业大规模收集个人数据，并可能在此过程中引发隐私问题。
其次，收集、清洗和处理高质量数据是一项成本高昂且复杂的任务。因此，企业数据集往往无法准确反映“现实世界”。即便如此，它们也可能只是复制或加剧人类偏见，并导致歧视性结果。这是因为AI中的反馈循环很可能会放大数据中固有的任何倾向。
最后，具备近乎无限存储能力的大规模计算系统消除了匿名的可能性，因为详细的个人行为信息会被纳入考量，从而能够以前所未有的精细程度实现个体定向。
更根本的是，由于AI驱动的系统会随数据和使用而演变，其行为难以预测；而当它们出现异常时，就更难调试和维护。与传统软件不同，人们无法简单地修正给予系统的指令，以使其重新与预期功能保持一致。简言之，当出现问题时，就更难确定其发生原因并实施纠正措施。在此背景下，“最大化收入”这类看似无害的目标，可能使一个能力极强的AI学习系统发展出深层且难以察觉的方式，诱导用户增加消费，这引发了合理的伦理担忧。
规模化部署负责任AI的五个步骤
作为一家企业，您如何在规避上述风险的同时，成功地规模化部署AI？您应当推动根本性的组织变革，转型为以负责任AI为驱动的企业。为帮助企业顺利推进这一变革，我们提供以下流程作为起点：
1. 明确贵公司对负责任AI的定义：为确保整个组织朝同一方向努力，高管必须通过协作流程，明确其公司对负责任使用AI的构成标准，该流程应涉及董事会成员、高管以及各部门的高级经理。这可以采取一套指导AI服务或产品设计与使用的原则的形式。此类原则的起草过程应围绕以下实际思考展开：AI如何为组织创造价值，以及在此过程中需要缓解哪些风险（例如品牌声誉、员工安全、对客户的不公平结果，以及公共讨论中日益加剧的两极分化）。
包括谷歌和微软在内的主要行业参与者已朝这一方向迈出步伐，并发布了各自的负责任AI原则。更多企业应效仿其做法。制定此类原则有两大主要益处。其一，它为所有人，尤其是高层管理人员，提供了了解负责任AI的机会。其二，它可以成为负责任AI业务战略的基础，明确贵组织计划如何构建负责任AI服务与产品的储备体系。
2. 建设组织能力：设计和部署值得信赖的AI系统，应当是全组织范围内的共同努力。这需要周密的规划、跨职能的协调执行、员工培训，以及大量资源投入，以推动负责任AI实践的采纳。为试点这些活动，企业应设立内部“AI卓越中心”，该中心应将工作重点集中于两项核心职能：培训和推动采纳。
事实上，要做好本职工作，员工需要接受相关培训，以理解风险如何在他们与AI系统的具体互动中显现，更重要的是，如何识别、报告并缓解这些风险。如果企业只关注技术团队，即便其初衷再好，也可能会在此处出现不足。此外，该中心应与业务“倡导者”密切合作，由其负责监督可信AI解决方案与产品的实施。
3. 促进跨职能协作：风险具有高度的情境依赖性，这意味着不同业务职能对风险的认知各不相同。在设计战略时，务必听取各部门的互补视角，以制定稳健的风险优先级排序方案。
这将减少高层管理人员的“盲点”，并在执行过程中确保员工获得更有力的支持。此外，由于学习系统往往会引发意料之外的行为，因此在系统运行期间，仍需应对一些风险。在此情况下，由风险与合规负责人统筹协调的密切跨职能协作，将是设计和实施有效补救措施的关键。
4. 采用更全面的绩效指标：目前，业界通常根据AI系统在基准数据集上的平均表现对其进行评估。然而，AI从业者和研究人员承认，这种绩效评估方法相当狭隘，并正在积极探索替代方法。
我们建议采取更为全面的方法：企业应定期监测并评估其系统行为是否符合负责任AI原则。从这一角度看，若某系统的行为与组织对负责任AI驱动的服务或产品的定义相符，则该系统被视为表现良好。
5. 明确清晰的问责路径：如果未能建立正确的问责路径，仅拥有适当的培训和资源，不足以实现持久的变革。换言之，要做正确的事，员工必须拥有正确的激励机制，并因做正确的事而获得认可。不出所料，这正是负责任AI从业者正在反映的最大挑战之一。在此，我们提出两项补救措施。
首先，您应引入审核流程，可将其纳入AI产品上市前审查，也可独立于该审查进行，以确保已充分考虑伦理因素。该审核流程应配套组织框架，明确每个相关团队的角色与职责，并设定升级程序，以应对持续存在的分歧（例如产品经理与隐私经理之间的分歧）。其次，对于那些报告过问题用例并花时间采取纠正措施的员工，应将其纳入年度绩效评估予以奖励。
未来之路
越来越多的企业领导者意识到，需要以负责任的方式对待AI，以确保这一变革性技术得到有益且可信赖的使用。然而，他们并不确定如何在规模化应用的同时为企业创造价值。我们希望让他们放心：这是可以实现的，但需要深刻的组织变革。
正如人生中任何重大变革一样，最初的步伐通常最为艰难，我们希望本指南能帮助企业领导者度过这一过渡阶段。我们也希望鼓励他们坚持下去，因为从长远来看，以负责任AI为驱动的企业很可能最具竞争力。事实上，对AI系统信任的需求并非一时潮流，而是决定哪些企业值得开展业务合作的关键因素。
