企业并未优先重视人工智能治理,这正在使其付出代价

undefined
本内容由人工智能自动翻译。
  • 全面落实负责任人工智能实践的组织不足百分之一。

  • 要兑现人工智能的承诺,离不开信任,而当前的人工智能战略在这方面仍有欠缺。

  • 实施有效人工智能治理的技术日益成熟,但管理层必须将其列为优先事项。

人工智能(AI)蕴藏着巨大的前景,但其未来取决于信任与稳健的人工智能治理。要充分发挥这项技术的作用,数据给出了一个值得关注的结论:全面落实负责任人工智能实践的组织不足1%。这一差距不仅是技术层面的,更是结构性的。

如果从一开始就未将人工智能治理纳入其中,人工智能便可能重蹈过去各项技术的覆辙,从数据质量低下,到决策不透明、问责机制薄弱。世界经济论坛的《推进负责任的人工智能创新:行动指南》《推进负责任的人工智能创新:行动指南》报告深入探讨了这一问题的内涵,以及创新者和人工智能使用者如何发挥其潜力。

治理在政策与产品的交汇点上至关重要。治理若姗姗来迟,就如同居民已经入住之后才浇筑混凝土:今天是发丝般的裂纹,明天则是结构性问题。将治理纳入蓝图,并不会拖慢工作进度,反而能使其更加稳固、易于扩展,并保持长久。

人工智能的信任始于数据层

《推进负责任的人工智能创新:行动指南》报告强调了一个简单的道理:现代人工智能的成功取决于现代数据治理。然而,许多组织仍受困于系统孤立、数据质量参差不齐以及审批流程繁琐等问题,这些都会拖慢进展并侵蚀信任。

分布式账本技术正开始改变这一局面。EQTY Lab该公司与英伟达合作,采用“可验证计算”,并将加密凭证锚定在Hedera上,形成防篡改记录,用以留存模型的训练方式与推理过程。ProveAI则从另一侧着手,记录谁在何时、依据何种政策接触过哪一训练数据集,并与《欧盟人工智能法案》等新兴规则相衔接。EU AI Act这是实时问责,而非事后复盘。

这些方法表明,当治理从一开始就被纳入其中时会发生什么。信任不再是事后附加的保障措施,而是成为系统本身的一部分,具有持续性、透明性,并在设计之初即具备韧性。

先夯实地基

数据并非唯一重要的支柱。组织还需要明确的责任主体。世界经济论坛的行动指南呼吁设立指定的人工智能负责人、跨职能委员会,并采取分阶段路径:起步时实行集中管理,随着能力增强,逐步过渡为联邦式监督。这样既可避免混乱,也能避免官僚主义。

去中心化系统同样提供了有益的经验。在去中心化金融(DeFi)领域,代币持有人投票与治理委员会有助于平衡速度、透明度与韧性。开源社区则将问责进一步延伸,将监督职责分散给审计代码、维护完整性的开发者与用户。这些模式并非完美无缺,但它们表明,当治理被嵌入设计之中时,问责便会成为内置的优势,而非事后补救的环节。

更进一步,若组建由企业、非营利机构和高校共同组成、责任对等的委员会,治理便可嵌入系统本身。不存在任何拥有不受制约权力的单一主体。这种架构之所以能够赢得持久的信任并实现负责任的规模化,正是因为权力得到了分配,而非被独占。

人工智能需要这种纪律性。人工智能治理必须做到清晰可见、有明确目的且持续推进,并引导设计、实施与发展。唯有如此,才能建立韧性,并使信任不断累积。

融合进步与原则

政府自身需要厘清人工智能价值链,尤其是在生成式人工智能模糊了创造者、部署者与使用者之间界限的情况下。若缺乏明确的问责机制与共同标准,便会引发系统性风险。国际协调同样至关重要。正如金融市场依赖共同规则与监管,人工智能若要赢得信任,也需要跨境的护栏。

我们已经看到了早期的举措。在英国,重新提交的《人工智能监管法案》提议设立人工智能管理局,并强制设置人工智能官员,以监督负责任的部署。欧盟则采取了不同的做法,依据《人工智能法案》在整个欧盟范围内强制执行合规要求。这些都是应对人工智能治理问题的不同模式的具体例证。

当前的任务是改进这些模式:明确责任主体,赋予高级治理职务以权力,在部署全过程嵌入监督,并推动全球协调一致。信任、安全与创新都将取决于此。

在坚实的基础上构建人工智能

世界经济论坛的行动指南将此称为一个具有决定性意义的机遇。人工智能可能成为人们畏惧的技术,也可能成为人们信赖的、在保护权利的同时推动进步的技术。结果将取决于治理是被视为根基,还是被视为事后的补救。

与任何结构一样,一旦地基打好,其上构建的一切便能更加高耸、更加持久。当治理从设计之初即被纳入其中时,创新将更具韧性与透明度。信任将随着应用的普及而同步增长,使人工智能不仅能够迅速规模化,还能以负责任的方式扩展,并以问责与包容为核心。

进步不会来自封闭的努力。它需要开放的生态系统,以及政策制定者、建设者与研究人员之间的切实协作。让治理成为推动信任与增长的催化剂,而非刹车。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。