新兴技术

面对飞速发展的人工智能,企业面临的最大风险有哪些?

超过一半的首席风险官了解人工智能开发监管对其公司的影响。 Image: Unsplash/Sean Pollock

Douglas Broom
Senior Writer, Forum Agenda
分享:
我们的影响力
世界经济论坛为 加速 新兴技术 行动做了什么?
全局信息
探索和追踪解决之道 人工智能与机器人 正在影响经济、产业和全球问题
A hand holding a looking glass by a lake
众源式创新
现在加入 ,用我们的数字众源平台来实现大规模的影响力
实时追踪:

人工智能与机器人

  • 人工智能有可能为农业、教育和医疗保健等行业带来“重大效益”;
  • 但世界经济论坛新发布的一份报告指出了人工智能给企业和社会带来的潜在风险;
  • 风险管理专业人士表示,我们需要加强对人工智能的监管,才能安全地从中获益。

世界经济论坛的《全球风险展望调查》(Global Risks Outlook Survey)在大型企业和国际组织的首席风险官(CRO)群体中展开调研。首席风险官普遍认为,人工智能(AI)有望为企业和社会带来重大效益,但如果我们不了解该技术带来的风险,它也有可能造成巨大破坏。

论坛年中发布的《首席风险官展望》(Chief Risk Officers Outlook)详细介绍了这项调查,并发出警告,人工智能的风险管理并未跟上技术的快速发展。

四分之三的受访首席风险官表示,人工智能的使用会给其组织带来声誉风险,而十分之九的受访首席风险官表示,需要采取更多措施来规范人工智能的开发和使用。

近一半的人赞成暂停或放慢开发新的人工智能技术,直到我们能够更好地了解其风险。报告称,人工智能“使得组织运作的环境变得复杂而不确定”。

“最近几个月,关于技术相关风险的讨论急剧增加,尤其是在生成式人工智能技术取得指数级进步且人们对其兴趣激增的背景下。”

重大效益和巨大破坏

报告称,虽然人工智能技术有可能在农业、教育和医疗保健等领域带来“重大利益”,但“它也能造成巨大破坏”。

首席风险官们认为最大的风险之一就是人工智能的恶意使用。由于易于使用,生成式人工智能技术可能会被滥用,被一些人用来传播假消息、进行网络攻击或获取敏感个人数据。

人工智能的重大风险来源于其“不透明的内部运作”。报告称,没有人完全了解人工智能内容具体是如何制作出来的。这进一步突出了首席风险官们指出的风险,即我们可能会在无意中共享个人数据,并出现基于人工智能算法的决策偏差。

首席风险官们如何看待人工智能迅速崛起带来的风险。 Image: 世界经济论坛

报告还称,由于对人工智能的工作原理缺乏了解,因此很难预测其未来的风险。不过,首席风险官们表示,受人工智能影响最大的业务领域是运营、商业模式和战略。

所有受访者都认为,人工智能的发展速度已经超过了管理其潜在伦理和社会风险的速度。43%的受访者表示,在更好地了解其潜在影响之前,应暂停或放缓新人工智能技术的发展。

规范人工智能的发展

超过半数的首席风险官表示,他们了解技术监管可能会对组织带来的影响。90%的首席风险官表示,需要加快对人工智能发展的监管。

半数以上的首席风险官计划对本组织使用中的人工智能技术进行审查,以评估其安全性、合法性和“道德合规性”,但也有一些首席风险官表示,组织的高级管理层不愿意将人工智能视为商业风险

苏黎世保险集团首席风险官、《首席风险官展望》报告作者之一Peter Giger说,我们不能忽视人工智能的风险,但企业需要采取更广泛、更长远的方法。

Giger认为:“过多、过窄地关注未来六个月左右可能占主导地位的风险,容易分散我们的注意力,使我们无法应对那些关乎未来的重大风险。

“人工智能就是一个很好的例子,因为它要求我们从长远思考。人工智能会在当今就颠覆所有人的生活吗?也许不会。对我们很多人来说,它并非直接威胁。但是,绝对不能忽视人工智能随着时间的推移将会带来的影响和发展趋势。”

如何负责任地使用人工智能

今年6月,论坛发布了关于负责任地开发人工智能建议的白皮书,敦促技术开发者提升开放和透明度,使用更加准确、共享程度更高的术语。

这一指南还呼吁科技行业做出更多努力,提高公众对人工智能能力及局限性的认知,更多地考虑社会关切和用户反馈,以此建立行业信任。

点击此处了解有关论坛人工智能治理联盟(AI Governance Alliance)的更多信息。

关于全球风险展望调查的更多信息

全球风险展望调查在论坛的首席风险官群体中进行,该群体由来自众多跨国公司的风险专业人士组成,涉及领域有技术、金融服务、医疗保健、专业服务和工业制造。

受访者认为,除人工智能外,宏观经济状况、关键原材料的定价和供应中断、武装冲突和监管变化等也是企业最关心的问题。

本文作者:

Douglas Broom,论坛议程高级撰稿人

本文原载于世界经济论坛Agenda博客,转载请注明来源并附上本文链接。

翻译:张一凡

编辑:江颂贤

不要错过关于此主题的更新

创建一个免费账户,在您的个性化内容合集中查看我们的最新出版物和分析。

免费注册

许可和重新发布

世界经济论坛的文章可依照知识共享 署名-非商业性-非衍生品 4.0 国际公共许可协议 , 并根据我们的使用条款重新发布。

世界经济论坛是一个独立且中立的平台,以上内容仅代表作者个人观点。

分享:
World Economic Forum logo
全球议程

每周 议程

每周为您呈现推动全球议程的紧要问题(英文)

立即订阅

你可以随时使用我们电子邮件中的链接取消订阅。 欲了解更多详情,请查看我们的 隐私政策.

六项措施释放互联交通基础设施的价值

Maria Alonso, Markus Hagenmaier and Ivan Butenko

2024年6月14日

关于我们

会议

媒体

合作伙伴和会员

  • 加入我们

语言版本

隐私政策和服务条款

© 2024 世界经济论坛