人工智能（AI）正在迅速改变风险管理与合规。
然而，人工智能可能给企业带来新的风险，例如加剧偏见或导致决策不透明。
企业需要综合审计软件解决方案来管理现有风险和潜在风险。
人工智能（AI）已成为各行业企业的必然选择。尽管有关人工智能的宣传甚嚣尘上，但它正在创造商业价值，因此迅速在全球范围内得到应用。去年，麦肯锡全球调查报告称，“人工智能在标准业务流程中的应用同比增长近25%”。人工智能的变革力量已经影响到多种职能，包括客户服务、品牌管理、运营、人才与文化，以及近来兴起的风险管理与合规。
这一最新发展并不令人意外。从本质上说，风险管理是指企业识别、监测和缓解潜在风险的能力；合规流程则旨在确保企业在法律、内部规范和道德边界内运营。这些活动高度依赖信息，需要收集、记录，尤其是处理大量数据，因此特别适合采用人工智能的主导范式——深度学习。
事实上，这种利用多层神经网络对模式进行分类的统计技术，可以有效提升风险管理与合规领域的分析能力。
人工智能系统带来了新的风险
然而，早期经验表明，人工智能可能给企业带来新的风险。例如，在招聘和信贷领域，人工智能可能加剧针对女性及少数族裔背景申请者的历史偏见；在医疗保健领域，由于其“黑箱”问题，人工智能可能导致决策不透明，这只是其中几个例子。这些风险因深度学习模型固有的复杂性而加剧，此类模型可能包含数亿个参数。这促使企业采购第三方供应商的解决方案，而企业对这些方案的内部运作机制知之甚少。
因此，高管们面临一项根本性挑战：如何在不造成难以应对的风险与合规问题的前提下，最大限度地发挥人工智能在各项业务职能中的效益？
此前，我们曾呼吁引入风险与收益评估框架，以识别并缓解人工智能系统中的风险。然而，这类框架高度依赖具体情境，需要深厚的跨学科专业知识和多方利益相关者协作。并非每个组织都能负担得起这类人才，或具备所需流程。此外，可以合理地假设，一家企业会针对不同用例部署不同的人工智能解决方案，而每种方案都需要单独的框架。即使对经验最丰富的风险管理人员来说，设计并跟踪这些框架也可能很快变成不可能完成的任务。在这种情况下，一个直观的应对方式是谨慎行事，将人工智能的应用限制在低风险场景，以避免潜在的违规行为。但这只能是权宜之计。从长远来看，考虑到人工智能对业务增长的巨大潜力，这种策略无异于自我挫败。
那么，什么才是明智的替代方案？
人工智能系统需要企业审计软件
我们认为，借助适当的审计软件，企业可以在一定程度上最大限度地发挥人工智能解决方案的效益，同时缓解其不利风险。如今，各行业已有大量审计软件，可确保企业流程符合相关法律和行业标准，适用范围涵盖金融、医疗保健等领域。
当前所需的是一种综合审计解决方案，将人工智能相关风险的管理纳入其中。此类解决方案应具备三项核心功能：
1. 记录企业使用的所有人工智能解决方案的行为。这意味着要监测人工智能解决方案，并分析其特征分布，以研究统计依赖关系。以招聘人工智能解决方案为例，应清楚了解哪些特征（例如就读过的大学、工作年限、性别等）对推荐结果影响最大。
2. 评估是否符合一系列既定要求。了解模型的输出结果（即招聘模型为何给出某项具体建议）后，重要的是评估其是否符合特定规范。这些规范可能包括法律规定（例如欧盟《非歧视法》）和组织准则。
3. 促进跨部门协作。这类审计软件应通过提供适当信息，促进多方利益相关者协作，尤其是负责监督人工智能解决方案的风险管理人员与数据科学家之间的协作。例如，风险管理人员需要以非技术性方式了解哪些要求已满足、哪些尚未满足；数据科学团队则可能更关注模型的性能特征。一旦发现不合规问题，审计软件应向技术团队提供适当干预措施的建议。
世界经济论坛正在如何推动第四次工业革命？
前沿技术与创新中心汇聚科学家、政策制定者和商界领袖，共同理解新兴技术及其在现实世界中的影响。
通过推动协作与试验，该中心帮助合作伙伴将研究创新转化为实际应用，以应对共同的全球挑战。
开发此类人工智能系统审计软件，将大大有助于应对人工智能带来的风险。然而，负责任的人工智能无法完全自动化。要缓解所有现有风险和潜在风险，并不存在一份放之四海而皆准的要求清单，因为具体情境和行业领域往往决定了需要满足哪些要求。因此，风险管理人员及其作出判断的能力仍不可或缺。人工智能的兴起只会让他们更专注于自身所长：与其他部门的同事合作，设计并落实稳健的风险管理政策。
