人工智能有望为农业、教育和医疗等领域带来“重大益处”。
但世界经济论坛的一份新报告指出，人工智能可能给企业和社会带来危险。
风险专业人士表示，需要加强监管，才能让我们安全地享受这些益处。
人工智能（AI）有望为企业和社会带来重大益处，但如果我们未能了解这项技术带来的风险，它也可能造成重大危害。
参加世界经济论坛《全球风险展望调查》的大型企业和国际组织首席风险官（CRO）持这一看法。
该调查详见论坛年中发布的《首席风险官展望》，报告警告称，风险管理未能跟上人工智能技术的快速发展。
受访首席风险官中，四分之三表示，使用人工智能会给其所在机构带来声誉风险；十分之九表示，还需要采取更多措施来监管人工智能的开发和使用。
近半数受访者赞成暂停或放缓新人工智能技术的开发，直到人们更好地了解相关风险。报告称，人工智能“造成了一个复杂且充满不确定性的环境，组织必须在其中开展工作”。
“近几个月来，与技术相关的风险讨论大幅增加，尤其是在生成式人工智能技术取得指数级进展、引发广泛关注的背景下。”
重大益处与重大危害
报告称，人工智能技术有望为农业、教育和医疗等领域带来“重大益处”，但“也有可能造成重大危害”。
首席风险官指出，人工智能面临的最大风险之一是遭到恶意使用。生成式人工智能技术易于使用，可能被滥用来传播错误信息、助长网络攻击或获取敏感个人数据。
人工智能之所以构成重大风险，在于其“内部运作不透明”。报告称，没有人能完全理解人工智能内容是如何生成的。这加剧了首席风险官所指出的风险，包括无意间分享个人数据，以及基于人工智能算法进行决策时出现偏见。
报告还指出，人们不清楚人工智能如何运作，因此难以预判未来风险；但首席风险官表示，人工智能对业务风险最大的领域是运营、商业模式和战略。
所有受访者都认同，人工智能的发展速度已超过他们管理其潜在伦理和社会风险的能力；43%的人表示，应暂停或放缓新人工智能技术的开发，直到人们更好地了解其潜在影响。
监管人工智能开发
超过半数的首席风险官表示，他们了解监管可能对所在机构产生的影响；90%的人表示，应加快监管人工智能开发的工作。
超过半数的受访者计划审查其所在机构已在使用的人工智能，以评估其安全性、合法性和“伦理合理性”；不过，也有人表示，高层管理人员不愿将人工智能视为一项业务风险。
苏黎世保险集团首席风险官彼得·吉格尔也是《展望》报告的撰稿首席风险官之一。他表示，忽视风险是错误的，但企业需要采取更广阔、更长远的视角。
超过半数的首席风险官表示，他们了解监管可能对所在机构产生的影响；90%的人表示，应加快监管人工智能开发的工作。
他说：“过度狭隘地关注未来六个月左右可能占据主导地位的风险，容易让我们分心，无法应对那些将决定未来的重大风险。”
“人工智能很好地说明了为什么应采取长远思维。人工智能今天就会扰乱每个人的生活吗？可能不会。对我们许多人来说，它并非迫在眉睫的威胁。但若忽视人工智能随着时间推移将带来的影响和趋势，那将是一个巨大的错误。”
世界经济论坛如何确保人工智能以合乎伦理的方式发展？
负责任地使用人工智能的指导意见
6月，论坛发布了关于负责任地开发人工智能的建议，呼吁开发者更加开放透明，并采用更准确且统一的术语。
指导意见还呼吁科技行业采取更多行动，增进公众对人工智能能力和局限性的了解，并更加重视社会关切和用户反馈，以建立信任。
点击此处了解论坛人工智能治理联盟的更多信息此处。
《全球风险展望调查》详情
《全球风险展望调查》面向论坛首席风险官群体开展，参与者包括来自众多跨国公司的风险专业人士，涉及科技、金融服务、医疗、专业服务和工业制造等领域。
除人工智能外，受访者还将宏观经济形势、关键原材料价格及供应中断、武装冲突和监管变化列为组织面临的主要关切。
