面对包括生成式AI(GenAI)在内的指数级技术所带来的未知,世界应如何进行治理?
围绕生成式AI的开发和部署建立组织韧性至关重要。
从将生成式AI指标纳入绩效衡量,到在组织最高层面促进对生成式AI的理解,以下是建立组织AI韧性的八种方法。
过去几年间,人工智能(AI)、加密货币、区块链、合成生物学、纳米技术等指数级技术持续渗透进生活的方方面面,我们也正为更多此类技术的到来做好准备。
2022年底,ChatGPT及其他生成式AI(GenAI)进入全球大众视野,凸显了这一现象。
作为一名非技术专家,我专注于科技趋势与宏观趋势的治理、风险、伦理及影响,包括我近期提出的概念“指数级技术的不可治理性。我的问题是:面对指数级技术的未知,世界应如何进行治理?企业、政府、非政府组织和社区如何管理那些看似不可治理的风险,同时为创造力留出空间?
在本文中,我将自己的组织韧性模型应用于《从阴霾到繁荣:领导者如何将风险转化为韧性与价值》一书中的模型,我已多次运用该模型来分析生成式AI现象。
假如我们将组织韧性的概念应用于生成式AI,或许可以得出以下定义:生成式AI韧性是指组织能够理解并持续维持、构建及交付预期的、由AI增强的业务成果的能力,这些成果涵盖使用AI和生成式AI工具与技术所打造的产品和/或服务,并且组织能够有意识地规避风险、负面影响以及由AI和生成式AI引发的不利事件(例如滥用生成式AI工具制造和部署更有效、更强大的网络攻击)。
世界经济论坛如何为人工智能制定护栏?
AI卓越中心汇聚各行业领导者,共同理解人工智能的快速发展及其对经济和社会的影响。该中心支持围绕AI应用所带来的机遇、风险及权衡取舍展开知情对话。
通过值得信赖的交流空间和协作性倡议,该中心助力合作伙伴建立共同理解,并携手推进负责任的AI创新与应用方法。
为生成式AI建立组织韧性
与网络安全一样,围绕生成式AI的开发和部署建立组织韧性至关重要。网络安全主要涉及风险管理和责任防范,而生成式AI则是一种更为复杂、更具多面性的现象,既蕴含机遇,也伴随风险。
生成式AI组织韧性的八个步骤
1. 领导层积极介入的生成式AI治理与领导力
企业文化的基调始终由高层确立,但最佳基调来自于情商高、并持续学习市场中机遇与风险(包括相关指数级技术和生成式AI)的高层领导。领导者必须积极介入,理解生成式AI如何影响其业务和战略,以及它如何提升产能、生产力、人才、劳动力、产品、服务乃至商业模式本身。
2. 建立审慎的AI与科技伦理文化
每个组织都必须主动、自觉地审视、识别并整合其科技足迹所带来的伦理与文化影响,包括其对生成式AI的采购、使用、开发和部署。从高层到整个机构,通过绩效管理指标和激励机制,若干关键内部角色(首先是首席执行官,以及伦理、合规、人才和/或风险负责人等)必须带头设计可衡量的科技伦理文化。
3. 理解生成式AI利益相关方
要理解在组织内部署生成式AI所涉及的问题、风险和机遇,另一项至关重要的要素是识别利益相关方,并理解他们在使用其自身及他人数据,以及组织在算法、产品和服务中使用这些数据时的立场、期望、担忧、底线和深层诉求。组织的声誉风险与机遇很可能取决于这一动态。
4. 确保具备AI素养的风险洞察力
所有组织,无论规模大小,都必须建立某种形式的系统性风险管理机制,使其量身适配自身实际,紧跟不断变化的环境,并能以敏捷且富有洞察力的方式加以调整。这意味着需要建立结构化的企业风险管理体系,能够捕捉与企业业务相关的技术发展细微差异,并能识别和交叉验证与公司相关的最可能发生且影响最大的实质性问题、风险和机遇。
5. 将生成式AI融入ESGT/业务战略
如果您的组织在战略制定和实施中尚未涵盖相关ESG加科技(或我所称的ESGT)的全部范畴,现在正是改变这一状况的时候。将企业最相关、最重要的ESGT问题、风险和机遇纳入业务战略,如今已是一项关键工作,而非可选项。根据您所处行业和业务足迹,生成式AI以及网络安全、数据隐私和数据收集等其他相关科技问题,都需要纳入整体战略头脑风暴之中。
6. 将生成式AI指标纳入绩效管理
世界经济论坛近期发表了一项关于衡量组织数字信任的重要成果,其中涵盖生成式AI。各机构必须制定并实施相关数字信任指标,以确保适当的护栏和政策得到落实。这些指标既应涵盖组织绩效,也应涵盖个人绩效,从首席执行官到新入职员工均应包括在内。
7. 部署与科技相关的危机应对准备
任何具备韧性的组织都会设有一套政策、实践机制和团队,专门应对可能演变为危机的情景——他们持续扫描地平线并预演各类情景,包括最有可能发生或后果最严重的数字风险,并考虑涉及指数级技术负面影响及其对关键利益相关方冲击的情景。例如,谷歌采用“红队”方法来理解不安全AI的负面影响,并将其称为“谷歌安全AI框架”,该框架包含六项实践,从加强安全基础到协调整个生态系统的控制措施。
8. 培养生成式AI持续改进与创新的理念
构建具备生成式AI韧性的组织的最后一个要素,是确保在前述所有步骤中,都建立起一个用于总结经验教训、开展根本原因分析和数据共享的反馈回路。这将推动企业政策、管理和绩效的持续改进,并培育一种创新理念,从而催生更好的新产品和新服务。
随着指数级技术渗透到我们的日常生活中,我们需要对其治理、风险、伦理及影响问题做出敏捷而审慎的回应。自觉且认真地将这些概念融入组织韧性的八个步骤之中,可以为实现这一目标提供有益的路线图。
