不应对AI治理的常见理由站不住脚。
AI治理是时机已至的战略机遇。
领导层确实有一条路径可以着手推进,这条路径简明直接、面向未来且经济可行。
疫情应对加速了强大AI工具和技术的融入,这些工具和技术支持新的工作、招聘、管理、分析和寻源方式。
部署这些技术的热潮,也带动了对其质量与影响进行治理的新方法的需求。然而,这方面的控制与监督工作在实践中仍然滞后。
推迟治理工作就是推迟不可避免之事;这意味着错失战略机遇,并使客户、员工和社会面临与非预期偏见、不透明决策和错误相关的危害。
人们提出了许多推迟关注监督工作的理由,但这些理由确实站不住脚。AI如今已在使用,我们现在就可以在这一领域采取切实可行、经得起考验的步骤,这些都是良好的投资,可以降低风险并释放稳健的战略价值。
简言之,即使前路仍在形成之中,我们今天就可以采取措施,让自己走上正确的方向。
不着手推进AI治理的六大最常见理由
1. “我们不必如此”
这并不完全属实。现有的许多规则和法规已经适用,包括信用报告、隐私,以及就业和商业中禁止歧视等领域的规定。类似欧盟委员会近期提出的欧洲方案这样的广泛AI监管,以及针对特定技术的立法提案已在酝酿之中,行业应用和采购标准也即将出台。
2. “为时过早”
AI及相关技术总会让人觉得为时过早。敏捷性将永远是设计和监督的一部分。AI能力将持续快速演进,其风险正是因此而产生,也源于该技术生成预测的方式。
即便技术不断改进、人们使用能力日益提高,这些风险依然内在存在,并且必然发生。尽管标准仍在变化,各方已开始起草合同,以考虑并转移这些风险;许多已提出的政策和框架也已为重要问题提供了良好的参考。
据经合组织(OECD)统计,目前已有300多项AI政策举措,来自60个国家、地区及欧盟。
3. “别人都没有这么做”
事实上,对AI治理的认识和关注正在成为主流。诸如Microsoft、Salesforce、Mastercard和Cisco、美国国家安全委员会以及美国Department of Defense等大型机构均已发布阐明各自做法的原则和政策。
其他机构也正迅速跟进,包括Workday和人力资源科技公司。
4. “这是别人的工作。”
AI治理是我们所有人的责任。AI系统包括开发、指导、使用这些系统并受其影响的人类团队。我们如何构建和采购这些工具,要求我们所有人都更加深入地了解其特性和风险,正如我们将任何其他产品引入工作、家庭和身体时所做的那样。
从设定质量与可信度基调和标准的资深高管,到对此提出同样要求的消费者,这一点都成立。
5. “我们负担不起”
更可能的情况是,您负担不起不这样做的后果。AI治理是一项战略性工作,能够开辟构建新市场、建立更稳固的客户和员工关系、更高效地交付产品以及扩大参与度的新途径,且均可实现规模化和快速推进。其风险同样如此。
因此,AI治理同时也是一项风险缓解工作,因为不利影响会以品牌、客户信任和法律责任风险的形式显现。大多数公司并不具备足够的实力,主动将产品撤出市场以回应质疑(例如Microsoft、Amazon或IBM就执法机构使用人脸识别技术一事所做的那样)。
6. “我们不知道该怎么做”
我们知道的比自以为的要多。每个人都可以将其对所在行业和机构的了解,应用于全新的、具体的AI使用情境中。新出现的工具能够帮助技术利益相关方更准确、更迅速地设计、开发和部署这些AI系统,这令人鼓舞,但仍远远不够。
AI系统需要多元化的利益相关方,各方从战略、政策、合规、风险、审计及其他视角出发,做他们本就擅长的事:审视并监督战略和技术系统。
我们今天可以做什么
领导层着手推进这项工作确有路径可循,这一路径简明直接、面向未来、经济可行,且值得立即投入:
1. 摸清AI的使用情况,以及贵机构内已开发或计划实施的AI项目。
2. 强化AI系统的战略和长期价值,采取周全的方法,对目标、限制、风险和影响进行评估,且评估须在设计阶段预先完成,并持续开展。
3. 建立高层问责与意见反馈机制。首席级(C级)领导应监督和管理AI治理与实施工作,以确立基调,并广泛征求机构各方的意见。
4. 识别并优先排列具体的应用场景,以便议题和多方利益相关方团队不致应接不暇,而是聚焦于该技术的具体能力与影响,并在最关键之处开展基于成果的评估。
5. 设计——并配备充足资源——一支多利益相关方、跨职能团队,基于专业知识、洞察力和影响力组建,汇集不同技能、不同年龄层和不同文化背景的人员。团队内应培养与贵机构AI应用相关的能力,并选择适合用途的AI政策框架,该框架应界定并规范发布负责任、可靠技术的流程。
此类政策应结合具体情境,兼顾人与技术两个层面,涵盖高/低后果、透明度、防范非预期偏见、可解释性、可阐释性及问责制等概念。
6. 最后,针对每个选定的优先应用场景,运用 ABC&D工具:
a) 明确阐述(Articulate):询问并评估AI应用场景和工具的目的、影响、适用性及边界;
b) 行为对齐(Behaviorally align)使团队的激励机制与所期望的治理成果保持一致;
c) 持续监测(Continuously monitor)依据已明确的标准监测绩效;
d) 记录(Document)良好的流程、指导意见和周全的培训。
AI治理是时机已至的战略机遇。技术本身并不完美,人类亦然,而大多数情况下,正是人类决定这些洞察和能力被如何使用,无论是好是坏。
越早着手治理越好:现在并不为时过早,这是我们每个人的责任,而且我们确实知道从何入手。

