生成式人工智能风险：首席法务官应如何应对？

• 生成式AI正成为企业的重要战略重点，有助于优化成本、提升质量、加快速度并实现可持续发展目标。

• 在快速演进的领域中，组织必须在把握这些机遇的同时兼顾风险缓解。

• 敏捷型组织正在制定企业层面的治理框架以部署生成式AI，并将风险评估矩阵纳入其中。

据预测，生成式人工智能（genAI）每年将为全球经济增加4.4万亿美元，相关数据援引自 麦肯锡。随着董事会和高级管理层迫切希望了解在其业务运营中部署生成式AI的机遇格局，并避免错失这场“千载难逢”的技术变革，风险监督已成为一项关键考量。

合规、运营、声誉和监管风险——生成式AI的影响与其所带来的机遇同样错综复杂。质量控制、准确性和错误信息是围绕生成式AI应用出现的主要关切。生成式AI输出的质量取决于输入数据的质量等因素。AI模型的错误信息与准确性问题是另外的挑战。近期纽约一案中曾引用了由AI生成的虚假判例，这说明了“AI幻觉”所带来的挑战。

组织正面临技术快速演进所带来的复杂监管应对格局。除政府在制定AI规则和法规方面的作用外，人们日益认识到，行业自律在保障公民和社会利益方面发挥着重要作用，此外，企业还负有对股东的信托义务。尽管政府监管与私营部门在自律方面的投入之间的平衡在各国有所不同，但越来越多的人主张，监管机构（例如NIST的AI安全研究所联盟）应与行业合作，共同制定生成式AI治理标准。

风险及相关缓解措施

我们汇集了世界经济论坛首席法务官（CLO）社群的见解，探讨领先企业如何应对生成式AI的风险与机遇。作为组织中负责法律战略和公司治理的最高级别管理人员，首席法务官在通过风险评估框架就AI相关风险为董事会提供建议、制定企业层面的缓解政策并同时战略性地满足业务重点方面，具有独特优势。

“知识产权”

Inderpreet Sawhney，Infosys集团总法律顾问兼首席合规官

未经授权使用受版权保护的材料训练大型语言模型，是生成式AI产品开发中一种新兴的知识产权风险。与此类似，多款AI模型的许可协议对使用AI生成的输出内容训练或微调另一AI模型作出了限制。值得注意的是，无论是开源还是闭源模型提供商，其许可做法中都存在这一趋势。用户组织应认真审视AI所带来的这一新时代风险。

关于AI生成内容知识产权归属的另一关键问题在于，它需要跨司法管辖区的法律确定性。缺乏此类归属规定将对不同行业领域产生程度不一的商业影响。各国法律需通过让所有相关利益方参与，实现协调统一。

“监管缺乏协调统一”

Andreas Hoffmann，西门子总法律顾问兼法务与合规主管

现有法规适用性方面的空白与不明确，以及新兴AI法规之间的分歧，给全球企业带来了另一项风险。新法规正在地平线上逐渐形成零散格局，其中包括欧盟《人工智能法案》以及美国于2023年10月30日发布的《关于人工智能安全与保障的行政令》。这种分歧不仅存在于国家层面，也存在于市级和行业层面。仅在美国，就有 2023年有超过25个州提出了与AI相关的立法。AI监管格局的多中心化和碎片化特征，给在不同行业和地区开展业务的企业带来了严重风险。

什么是人工智能治理联盟？

03:17

“合规作为催化剂”

Ulrike Schwarz-Runer，波士顿咨询公司董事总经理、高级合伙人、总法律顾问

尽管当前围绕AI的监管格局在全球范围内仍然碎片化，但这也为组织积极塑造最佳实践提供了独特机遇。及早践行负责任AI合规计划的企业，将能够确保其以诚信引领发展。尽职调查、合规计划和文件记录，连同测试与学习，是AI之旅中必不可少的工作。它们应被视为规模化与增长的催化剂，并将对确保这些解决方案的可信度、质量和安全性不可或缺。

“建立信任”

Sabastian Niles，Salesforce总裁兼首席法务官

要充分释放生成式人工智能在经济和人道主义方面的巨大潜力，不能仅依靠技术创新，关键在于信任。在各自的企业和行业内，私营部门可以树立以信任为先的范式，以最大化AI的效益。这意味着采取“兼顾并重”的做法，优先保障内部和外部客户及利益相关方的持续成功：在预见和管理风险的同时，我们也秉持一种视角，即要求AI成为智能增长、生产力提升和明智决策的推动者，并把握眼前在技能提升、再培训和人才拓展方面的潜力。

然而，要以可信的方式驾驭AI的力量，还需要监管机构、企业和公民社会共同合作，并遵守相关指导原则与防护框架：

优先保障透明度：人们应当知道自己何时在与AI系统互动，并能够获取有关AI驱动决策如何作出的信息。

保护隐私：由于AI以数据为基础，促进并保护数据的质量、完整性以及数据的恰当收集与使用，对于建立信任至关重要。行业标准、协调统一的监管以及常识性立法，应支持隐私保护以及客户对自身数据的控制。

制定基于风险的框架，覆盖整个价值链：AI并非一刀切，有效的框架应在保护公民的同时鼓励包容性创新。

如上所述，仅仅遵守法律规定是不够的。企业需要追求更高标准，通过理解并努力超越客户和利益相关方的期望来建立信任。尽管这一追求可能涉及权衡取舍，但首席法务官可以通过倡导设立AI治理委员会等内部举措，审议拟议的AI应用场景，并制定伦理使用政策，在AI创新时代中发挥核心作用，引导组织优先重视信任、问责，并创造积极影响。

“企业层面政策”

Rishi Varma，惠普企业高级副总裁兼总法律顾问

企业正在制定缓解策略，以确保实现制衡机制。一些创新型企业已设立AI监督或伦理委员会，以制定并监控其AI治理战略。此类委员会汇集了企业内不同高级管理人员的专业知识，例如首席技术官、首席数据官、首席法务官等，其战略范围可涵盖从数据战略到人才战略，并与公司的核心价值观和优先事项保持一致。

Pierre Gentin，麦肯锡高级合伙人兼首席法务官

与新兴全球法规及行业标准保持一致的内部政策，是有效AI治理方法的基础要素。该政策应识别高风险AI应用场景，并确立一套参与此类系统开发的团队需要达到的标准。确保政策在整个组织内得到有效传达和落实，应是企业近期的工作重点。

Ryan Taylor，Palantir Technologies首席营收官兼首席法务官

要降低风险，生成式AI应用的治理不能仅依靠机构监督和控制，还需要完善的数字基础设施，以确保在将AI生成的输出与人为驱动并影响人类的结果相连接时，具备可靠性、可及性和安全性。设计合规机制，并在下一代AI应用中培育信任与问责，应从全系统的风险应对入手，涵盖从数据生命周期管理到决策支持，再到人机交互监督。

“保险行业视角”

Katja Roth Pellanda，苏黎世保险集团总法律顾问

创新型AI应用使保险公司能够简化承保流程、更有效地识别欺诈，并根据个人需求量身定制保单，从而变革该行业的运营和客户服务。

AI治理联盟

论坛新设的AI治理联盟是一项开创性的全球性多利益相关方倡议，旨在倡导负责任的全球设计，并构建透明、包容的AI系统。虽然由政府推动的法规将确立总体框架，但通过风险缓解策略进行的自律，有助于企业在快速演进的技术格局中，回应行业对负责任开发与部署的需求。可考虑的此类缓解策略包括：是采用开源还是闭源AI模型，以及是使用自有还是第三方供应商的AI应用。

另一策略是将测试、质量和性能评估前移至开发的早期阶段。这有助于组织监控AI模型训练所用的数据集，并建立基于透明度与问责机制的措施。论坛的CLO社群将于2024年与AI治理联盟合作，共同形成一个愿景，阐明企业如何有效缓解风险、自律规范生成式AI，并制定成功的AI战略。