AI驱动的商业变革已经到来,现在我们需要统一连贯的AI治理

undefined
本内容由人工智能自动翻译。
  • AI技术的快速发展有潜力变革各行各业,并推动有意义的经济变革。

  • 要充分释放其全部益处,应在全球范围内协调监管该技术的努力。

  • 技术进步是应对全球挑战的关键——这需要创新与防护措施。基于成果的政策方法最有潜力同时兼顾两者。

过去一年,人工智能(AI)已被视为众多企业未来增长的关键组成部分,有潜力变革整个行业,并带来具有社会和经济意义的技术变革。尽管一些人数十年来已认识到AI的价值,但越来越多的企业如今正寻求利用新的生成式AI工具来发展业务。

AI的应用场景已从仅回答客户服务问题,扩展到例如协助放射科医生发现癌症、识别企业和消费者减少温室气体排放的途径,以及为小企业提供客户洞察以帮助打造更有效的产品。随着这些新技术的发展,实施能够保障用户安全、同时支持推动企业和经济向前发展的创新的各类防护措施至关重要。

任何变革时期都会同时带来机遇与挑战。作为首个利用AI识别欺诈并保护支付安全的网络,Visa自1993年起便已见证这些技术的价值与影响。借助其分析交易流并标记可疑行为的能力,AI是识别异常模式、防范支付欺诈的强大工具。其成效十分显著:我们的AI与预测性机器学习能力仅在2022年就帮助防止了估计 $27 billion的欺诈相关损失(仅2022年一年)。

当然,欺诈者同样善于利用新技术为自己谋利。他们已开始利用大语言模型(LLMs)和其他类型的生成式AI来起草网络钓鱼邮件,这些邮件越来越难以辨别,同时他们还利用 语音克隆工具和深度伪造技术获取银行账户访问权限并实施欺诈。银行和支付网络需要持续创新,以保持领先两步。

实现AI监管协调

目前,若干国家的政策制定者已开始制定各自的AI治理框架:例如在美国,国家标准与技术研究院(NIST)于2023年1月发布了《AI风险管理框架》,白宫则发布了一项行政令,内容涉及安全、可靠和值得信赖的AI开发与使用。欧盟正在敲定《AI法案》,并推出了AI契约,这是一项为预期《AI法案》出台而由行业自愿作出的承诺。新加坡政府一直致力于加强AI治理,并近期推出了名为AI Verify的测试工具包。

尽管这些政策制定者及其他国家和地区正聚焦于一些相同的关键政策驱动因素,例如安全与保障,但各国政府目前在制定框架时仍相对各自独立。鉴于我们所处的世界高度互联,缺乏协调的监管努力可能导致要求重复或相互冲突,进而使企业和消费者无法获得最优结果。

例如,数据本地化要求可能损害AI系统的准确性与性能。前文提到的欺诈检测工具依赖于自由流动的全球数据。若缺乏一致的机制来实现跨辖区的安全、可信数据流动,在全球范围内共享信息并部署尖端技术以保护消费者和商户将变得十分困难。由此可见,即便是旨在保护消费者数据的数据本地化举措,最终也可能使消费者、企业和政府承受生产力、互联互通、技术进步与增长下降的代价。

欧盟刚刚达成一项具有里程碑意义的协议,旨在监管人工智能。
欧盟刚刚达成一项具有里程碑意义的协议,旨在监管人工智能。
01:38

为了领先于目前利用生成式AI工具的欺诈者,并持续探索AI的诸多益处(其中许多我们至今尚未发现),私营部门将需要不断创新。在金融服务行业,银行与金融科技公司正在合作,释放AI的益处,以简化业务流程并为终端用户提供更卓越的价值。除金融服务外,AI还可助力解决其他全球性挑战,例如气候变化的影响。在能源分配、农业以及天气和灾害预测等领域,新的AI应用正迅速涌现。

我们对这些机遇持乐观态度。然而,跨辖区产生相互冲突或不一致义务的监管碎片化,可能会扼杀我们所有人都将依赖的创新。为应对这一问题,一些国际论坛和组织已开始探讨这些议题。例如,七国集团广岛进程、英国AI安全峰会以及世界经济论坛AI治理峰会等平台为推进AI对话提供了机会,以确保治理框架实现跨境协调一致。

成果导向与流程导向

随着AI应用场景迅速扩展,我们如何确保消费者和企业(实际上是我们所有人)充分从中获益?答案在于聚焦于针对特定应用场景、以成果为导向的AI标准、风险管理框架以及基于风险的政策。作为指导原则,良好的成果应成为AI政策方法的基准,相较于规定性的、基于流程的框架,更有可能在减轻潜在风险的同时,为创新和敏捷开发留出空间。

AI技术的开发者和部署者已受到多个领域的监管,包括消费者保护、数据隐私、知识产权、竞争法、产品与安全责任以及特定行业法规。在政策制定者寻求出台新法律或法规之前,应先对现有法律法规进行差距分析,以确定哪些可以直接适用或加以调整。全面审查有助于确保新框架能够补充现有法律并弥补其中的空白,而非造成相互冲突或重复的要求。

世界经济论坛如何为人工智能建立防护措施?

AI卓越中心汇聚各行业领袖,共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持就AI应用相关的机遇、风险及权衡取舍展开知情对话。

通过可信空间与合作倡议,该中心助力合作伙伴建立共同认知,并携手推动负责任的AI创新与应用。

了解该中心的工作

由于AI技术有可能触及每个行业、每个社区、每家企业和每个人,政策方法应旨在支持互联社会与经济中的良好成果以及有益的AI进步。归根结底,关于AI标准与政策的国际合作,可以帮助我们所有人灵活高效地运作,紧跟技术演进与行业最佳实践的步伐。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。