AI智能体经济的增长对信任水平构成威胁，同时也为重新构想信任带来机遇。
人们对AI的信任是双重的，取决于对该技术能力与意图的认知。
随着自主式AI的普及，我们必须在三个不同层面重新思考信任。
正如诺贝尔经济学奖得主肯尼思·阿罗（Kenneth Arrow）曾指出的，每一笔经济交易都包含信任要素。如今，随着越来越多的交易由AI智能体处理，这种信任正面临新的压力。全球信任水平持续下降，而AI智能体在我们日常生活和商业系统中的存在正迅速增加。
在悲观的情景下，这可能会削弱信心。在乐观的情景下，它则为重新构想信任并推动经济增长开辟了途径。
社会信任与经济表现之间的联系已得到充分论证。据德勤洞察（Deloitte Insights），一个国家中信任他人的人口比例每提高10个百分点，人均实际GDP年增长率约可提高0.5个百分点。然而，随着我们从人与人之间的互动转向智能体之间的交换，这一关系正在发生演变。
在AI驱动的经济中，信任将持续影响结果。真正的问题是：哪种信任最为重要，我们又该如何建立它？
迈向AI智能体经济
数字经济正在走向智能体化。AI智能体正从辅助工具转变为自主实体，执行交易、分配资源并做出决策。
AI经过数十年的发展已趋于成熟，但如今正处于一个转折点。据Gartner《人工智能技术成熟度曲线》，AI智能体目前正处于预期的顶峰，预计实施周期为2至5年。到2028年，约33%的企业软件应用将包含智能体式AI，其中至少15%的日常工作决策将由AI智能体自主做出。AI智能体经济将成为完全成熟的现实，并需要全新形式的问责、协作与信任。
信任的核心由两个基础要素构成：能力（执行的能力）和意图（行为背后的目的）。尽管如今很少有人质疑先进技术的能力，但意图仍是一片模糊的前沿领域。
信任为何存在差异，以及其为何重要
研究表明，AI信任度在不同地区和人口群体之间存在显著差异。据研究（由毕马威与墨尔本大学开展），与新兴经济体相比，发达经济体的民众对AI的信任度较低（39%对57%），接受度也较低（65%对84%）。从社会学角度看，在这些环境中，信任仍建立在人际关系或传统机构之上。
最新的爱德曼信任晴雨表全球报告（Edelman Trust Barometer Global Report）将当前环境描述为“怨恨危机”。怨恨感越强，对AI的怀疑就越深。那些强烈感到不公或不满的个人，对AI的信任明显更低，并且对企业使用AI的态度明显更为不安。随着对机构的信任被侵蚀，人们对AI在商业和治理中日益增长的作用的接受度也随之下降。
理解信任是如何形成的，将至关重要。
赢得信任的方式
随着自主智能体的普及，我们必须在三个关键领域重新思考信任的运作方式：
人与人之间的信任。人际信任的基础仍然是共同价值观、互惠和过往经验。但数字层正在改变我们认知他人的方式。当视频通话中一张熟悉的面孔可能是AI生成的虚拟形象时，我们赖以建立信任的心理线索便受到挑战。这引发了关于在人机混合世界中真实性、身份认同和互动规范的新问题。
智能体之间的信任。AI智能体之间的信任是通过信号交换形成的，包括绩效记录、声誉数据和可预测的行为。智能体将基于能力（技术执行力、可靠性）和意图（目标一致性、决策透明度）相互评估。在这一领域，信任成为一个工程问题：如何设计能够随时间评估、验证和调整信任的系统。
人与智能体之间的信任。要让人类信任AI智能体，这些智能体必须展现持久的身份和可预测的行为。人们信任的是一致性。正如我们会记住可靠的合作伙伴，AI智能体也必须记住并适应用户，在互动中提供连续性与连贯性。当AI行为反复无常或假装成它并非的样子时，信任就会受到侵蚀。真实性与记忆能力必须内置于智能体的设计之中。
AI时代信任的基础
对AI信任的最大挑战之一，仍然是智能体意图缺乏清晰度。例如，自动驾驶汽车在统计上可能比人类驾驶员更安全，但由于人们不确定指导其决策的价值观，许多人仍然不信任它们。
这表明AI系统需要更广泛地具备透明、可解释的意图，不仅要关注能力，还要关注动机。从系统层面看，我们还面临技术挑战：如何确保无缝且安全的数据交换，如何跨平台验证智能体身份，以及如何建立通用协议，使其不仅能传递信息，还能传递信任本身。
但或许最困难的挑战在于思维方式。正如风险投资机构红杉资本（Sequoia Capital）所指出的，智能体经济的成功不仅需要新技术，还需要一种新型领导力，这种领导力既要理解AI智能体能做什么、不能做什么，也要明确应当如何对其进行治理。
AI的机遇窗口
未来五年为塑造自主智能体世界中信任的运作方式提供了一个狭窄但至关重要的窗口。据Grand View Research预测，到2030年，全球AI智能体市场规模将达到503.1亿美元。Grand View Research。随着智能体经济的演进，利害关系将比以往任何时候都更高。除非建立稳健的信任框架，否则欺诈和安全威胁可能呈指数级增长。
世界经济论坛如何为人工智能建立护栏？
AI卓越中心汇聚各行业领袖，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕AI应用的机遇、风险和权衡展开知情对话。
通过可信赖的交流空间和合作倡议，该中心帮助合作伙伴建立共同理解，并携手推进负责任的AI创新与应用。
专家将2024年称为“深度伪造之年”。随着时间推移，自主AI智能体的发展将使伪造和欺诈的可能性进一步扩大。这将伴随信任和经济指标的下降。例如，德勤金融服务中心预测，仅在美国，生成式AI就可能使欺诈损失达到400亿美元。生成式AI可能使欺诈损失达到400亿美元。仅美国一地的损失就已如此，全球范围内的损失规模将超过AI智能体的市场规模。
我们可以选择任由不信任滋长，让混乱、操纵和数字过载主导局面；也可以在智能体的辅助下，构建以清晰、一致和共同人类价值观为基础的新型信任架构。
