面对飞速发展的人工智能，企业面临的最大风险有哪些？

世界经济论坛的《全球风险展望调查》（Global Risks Outlook Survey）在大型企业和国际组织的首席风险官（CRO）群体中展开调研。首席风险官普遍认为，人工智能（AI）有望为企业和社会带来重大效益，但如果我们不了解该技术带来的风险，它也有可能造成巨大破坏。

论坛年中发布的《首席风险官展望》（Chief Risk Officers Outlook）详细介绍了这项调查，并发出警告，人工智能的风险管理并未跟上技术的快速发展。

四分之三的受访首席风险官表示，人工智能的使用会给其组织带来声誉风险，而十分之九的受访首席风险官表示，需要采取更多措施来规范人工智能的开发和使用。

近一半的人赞成暂停或放慢开发新的人工智能技术，直到我们能够更好地了解其风险。报告称，人工智能“使得组织运作的环境变得复杂而不确定”。

“最近几个月，关于技术相关风险的讨论急剧增加，尤其是在生成式人工智能技术取得指数级进步且人们对其兴趣激增的背景下。”

报告称，虽然人工智能技术有可能在农业、教育和医疗保健等领域带来“重大利益”，但“它也能造成巨大破坏”。

首席风险官们认为最大的风险之一就是人工智能的恶意使用。由于易于使用，生成式人工智能技术可能会被滥用，被一些人用来传播假消息、进行网络攻击或获取敏感个人数据。

人工智能的重大风险来源于其“不透明的内部运作”。报告称，没有人完全了解人工智能内容具体是如何制作出来的。这进一步突出了首席风险官们指出的风险，即我们可能会在无意中共享个人数据，并出现基于人工智能算法的决策偏差。

报告还称，由于对人工智能的工作原理缺乏了解，因此很难预测其未来的风险。不过，首席风险官们表示，受人工智能影响最大的业务领域是运营、商业模式和战略。

所有受访者都认为，人工智能的发展速度已经超过了管理其潜在伦理和社会风险的速度。43%的受访者表示，在更好地了解其潜在影响之前，应暂停或放缓新人工智能技术的发展。

超过半数的首席风险官表示，他们了解技术监管可能会对组织带来的影响。90%的首席风险官表示，需要加快对人工智能发展的监管。

半数以上的首席风险官计划对本组织使用中的人工智能技术进行审查，以评估其安全性、合法性和“道德合规性”，但也有一些首席风险官表示，组织的高级管理层不愿意将人工智能视为商业风险。

苏黎世保险集团首席风险官、《首席风险官展望》报告作者之一Peter Giger说，我们不能忽视人工智能的风险，但企业需要采取更广泛、更长远的方法。

Giger认为：“过多、过窄地关注未来六个月左右可能占主导地位的风险，容易分散我们的注意力，使我们无法应对那些关乎未来的重大风险。

“人工智能就是一个很好的例子，因为它要求我们从长远思考。人工智能会在当今就颠覆所有人的生活吗？也许不会。对我们很多人来说，它并非直接威胁。但是，绝对不能忽视人工智能随着时间的推移将会带来的影响和发展趋势。”

今年6月，论坛发布了关于负责任地开发人工智能建议的白皮书，敦促技术开发者提升开放和透明度，使用更加准确、共享程度更高的术语。

这一指南还呼吁科技行业做出更多努力，提高公众对人工智能能力及局限性的认知，更多地考虑社会关切和用户反馈，以此建立行业信任。

点击此处了解有关论坛人工智能治理联盟（AI Governance Alliance）的更多信息。

全球风险展望调查在论坛的首席风险官群体中进行，该群体由来自众多跨国公司的风险专业人士组成，涉及领域有技术、金融服务、医疗保健、专业服务和工业制造。

受访者认为，除人工智能外，宏观经济状况、关键原材料的定价和供应中断、武装冲突和监管变化等也是企业最关心的问题。

本文作者：

Douglas Broom，论坛议程高级撰稿人

本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。

翻译：张一凡

编辑：江颂贤