到2034年,AI智能体的价值或将达到2360亿美元——前提是我们确保它们属于“好”的一类

undefined
本内容由人工智能自动翻译。
  • 智能体式AI的发展显而易见,但必须以坚实的信任保障措施为基础。

  • 借鉴20世纪70年代金融全球化时期的“了解你的客户”框架,“了解你的智能体”框架可以整合身份识别与安全协议。

  • 政府、组织和标准制定机构必须立即采取行动,确保智能体经济的完整性。

由智能体驱动的经济不再只是新兴事物,它已经到来。面向消费者的AI智能体已开始自主为购物者预订旅行和完成小额采购。很快,它们将处理复杂采购中更多端到端的购买流程:协商价格和条款、协调配送与退货,并以机器速度与其他智能体进行交易。这些系统正迅速融入消费者与企业之间日常价值流动的方式。

机遇巨大,风险也同样巨大。如果没有保障措施,智能体侵蚀信任的速度可能与提升效率一样快,从而损害它们原本旨在改进的系统。

我们今天建立的身份识别与问责基础设施,将决定智能体式商业是成为全球繁荣的催化剂,还是沦为前所未有的欺诈活动的新前沿。

智能体式商业的兴起

加速趋势显而易见。在2024年假日购物季,Adobe的数据显示,采用AI驱动的浏览器和服务已成为一项显著趋势。到2025年黑色星期五,AI驱动的美国零售网站流量同比增长了805%,智能体推动全球线上销售额超过220亿美元。

但这一转变远不止零售业。全球AI智能体市场在2024年估值为54亿美元,并预计到2034年将达到2360亿美元,正迅速拓展至企业核心职能领域。

对企业而言,这意味着客户中将有越来越多不再是人类,而是代表个人行事的智能体,它们会与代表卖家、物流服务商和支付处理机构的其他智能体互动。最终,商业供应链中的大部分环节都将由智能体彼此对接。

这一转变提出了一个根本性问题,而我们现有的信任基础设施尚无法回答:当交易方不是人类时,我们如何确定其身份?

引入“了解你的智能体”(KYA)框架

我们过去曾解决过类似问题。20世纪70年代和80年代金融服务全球化期间,资金跨境流动的速度超过了信任与问责机制跟上的速度。为此,“了解你的客户”(KYC)框架应运而生,要求机构核实客户身份并监控交易。

尽管KYC未能彻底消除欺诈或金融犯罪,但它要求参与系统者先核验身份,为建立信任与问责奠定了基础。如今,新兴的智能体经济中也存在同样的信任缺口,只不过其规模已呈指数级扩大。

为了支持这一快速转变,我们需要一套新框架:“了解你的智能体”(KYA),并与传统的“了解你的客户”(KYC)要求配合实施。

有效的KYA框架取决于四项能力:确认智能体是谁、是什么;核实它获准做什么以及代表谁行事;对其每项行动保持明确的问责机制;并持续监控其行为,确保其始终处于获准范围内。

AI代理和GenAI:它们有什么区别?这位专家将为您解答。
AI代理和GenAI:它们有什么区别?这位专家将为您解答。
03:14

至关重要的是,所有这些都必须建立在坚实可靠的KYC基础之上。智能体身份的可信度,取决于其所代表的人类或组织身份;如果没有高保证等级的KYC,即使最完善的KYA框架也会崩溃。

在Socure,我们正致力于推进所需的身份与风险框架,以核验、授权并持续监控自主智能体,同时结合其所代表的人类身份背景,确保它们能够在高度信任的系统中互动。

缺少这些能力,我们就无法区分“好机器人”——例如代表忙碌专业人士合法购物的商业智能体——与冒充同一智能体实施欺诈的“坏机器人”。

智能体式商业的两种未来

未来十年将决定我们身处哪一种智能体经济。

如果我们现在采取行动……

我们就能开启顺畅无阻的跨境数字商业,让智能体在高度问责、摩擦极少的情况下进行交易。未来十年,智能体式AI有望带来3万亿美元的全球企业生产力提升,扩大中小企业的参与机会,并催生全新的经济活动层次。

如果我们未能做到……

不法分子将部署能够大规模冒充身份并自动实施欺诈的恶意智能体。分析人士已预测,到2028年,四分之一的企业安全漏洞可能源于对AI智能体的利用。信任不会逐渐消退,而会轰然崩塌,进而引发过度监管、扼杀创新,或导致互联网分裂成彼此隔绝、受到严密监管的封闭花园。

构建信任层

人类在网上正逐渐成为少数。机器人目前产生了近50%的互联网流量,其中近三分之一来自恶意机器人。要防止最坏情形发生,必须果断采取行动。

政府必须升级身份识别基础设施,并消除过时的法律壁垒,以便共享已发现欺诈行为的相关信息。公共部门系统应优先核验身份,而不应只验证证件。全球监管完全协调并不现实,但建立最低限度的信任与互操作性基准既可行又不可或缺。智能体不受国界约束,我们的治理框架也不能受其限制。透明度与协调一致的知识共享必须成为根基。

组织必须将智能体身份视为首要安全挑战,在部署智能体时优先建立明确的授权框架和可审计的活动记录。与外部智能体互动的组织需要具备核验能力,远远超出仅凭表面陈述予以接受的程度。

为推动监管协调,标准制定机构必须加快制定可互操作的KYA协议,并与监管机构协同合作,确保全球一致性。目标是建立一个通用信任层——类似于网站的SSL证书——让合法的智能体式商业顺畅开展,同时对恶意行为者施加有针对性的阻力。

这一切都不容易。但如果没有配套的信任基础设施就进入智能体经济,代价将高得多。

身份是根基

身份始终是信任的根基,而信任又是商业的根基。如今发生变化的是,建立在这一根基之上的交易,其速度、规模和自主性都在提升。当软件智能体代表我们跨境交易时,身份问题变得更加重要,也复杂得多。现在就认识到这一挑战并投入资源加以解决的企业、政府和机构,才能在智能体经济中蓬勃发展。

世界经济论坛如何帮助领导者理解AI,并携手推动负责任的创新

人工智能卓越中心汇聚各行业领导者,共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持各方围绕AI应用相关的机遇、风险与权衡开展有依据的对话。

通过可信赖的交流空间和协作倡议,该中心帮助合作伙伴形成共同认知,并携手探索负责任的AI创新与应用方式。

了解该中心的工作

构建智能体驱动世界信任所需的技术已经存在。问题在于,我们能否以当下所需的紧迫感部署这些技术,在信任缺失彻底关闭机遇之前采取行动。归根结底,未来十年将属于那些解决身份来源验证和智能体问责问题的企业。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。