AI正从静态工具转向自主智能体，这需要新的问责框架。
持久的信任依赖于为认知共鸣而设计的系统，而非通过情感说服来打造。
领导者必须实施分层的信任架构，优先考虑可理解的推理和有边界的系统自主性。
智能体化AI并非轰然降临，而是悄然到来。过去只会等待指令的系统，开始自主行动：启动任务、做出决策，并边行边调整。
尽管这一转变已经在进行，我们谈论AI治理的方式仍然停留在过去。我们的伦理、法律和组织框架并非为非人类智能体而设计。然而，智能体系统正在改变这一局面，并在事情出错时引发有关问责的紧迫问题。
从工具到对话者
大多数关于AI治理的讨论仍围绕合规、风险和危害防范展开。这些问题很重要，将来也会一直重要。但它们是为AI基本静态的世界而构建的。
随着AI智能体从工具转变为对话者，核心问题变成了行为层面的问题：我们如何确保AI智能体值得信赖？一些国家正尝试通过大规模提供智能体AI监管框架来回答这一问题。
在这一新范式中，信任成为一项核心设计选择。它必须经由全球协作审慎作出，而不是通过说服或不透明来打造。通过这种情感镜像机制打造的信任将十分脆弱。它或许会一时说服我们，但经不起真正的审视。
我们如何建立信任
相比之下，通过认知共鸣建立的信任是持久而长久的。所谓认知共鸣，是指系统的行为方式能让人类直观理解、预判并审慎评估。
认知共鸣意味着AI的边界是可见的。
智能体的推理、限制和意图始终清晰可读。这一点至关重要，因为AI智能体日益影响着决策、信念和情绪状态。当用户无法判断智能体为何作出如此回应，或它是否在为自身利益而优化时，信任就会转变为依赖。这正是对话需要转向的地方。防范危害固然必不可少，但它与塑造影响并不相同。而在自主性时代，责任不能仅以未发生的错误来界定，它还必须考虑我们正在积极塑造的未来。
赢得信任，而非设计信任
从设计角度看，这意味着确保信任是赢得的，而非设计出来的。为此，结构性和心理性的设计选择都是必需的。
结构性设计选择涉及系统的构建方式。有意义的设计意味着为自主性打造分层的“信任架构”，其中包括：
可理解的推理路径：智能体应能够在适当的细节层面解释其得出输出结果的过程与原因。这不是完整的技术披露，而是有意义的可追溯性。
有边界的自主性：必须明确界定智能体可以执行、决定或建议的事项。不得悄然扩大其自主权限。
目标透明：智能体的目标必须明确。用户应当知道它是在为准确性、安全性、效率、用户参与度还是商业成果而优化。
可质疑性与人工覆盖：人类必须能够轻松地质疑、纠正智能体或与之脱离。顺畅的退出机制是一项信任要求。
设计即治理：日志记录、可审计性和监督机制必须嵌入系统之中，而非事后添加。
在自主性规模化之前，我们有机会放慢脚步、加以观察。智能体一旦在真实环境中学习，会如何表现？它会开始偏好哪些模式？同样重要的是，人类会如何回应？他们会更多地依赖它吗？更少地加以覆盖吗？信任的速度是否会超出应有的程度？
花时间探讨这些转变可能如何演变，并非奢侈之举。这是组织避免在毫无察觉中走向其原本无意使之常态化的行为的途径。这些时刻并非边缘情况，而是我们正在积极塑造的未来的早期信号。
信任不应被视为采用的障碍，而应被视为实现更好成果的基础：一种使AI系统与我们希望强化的行为、判断和规范保持一致的方式。
信任架构
对此，一种框架方式是将其视为面向自主性的分层“信任架构”。
要信任AI系统所做的事情，我们需要了解它知道什么、被允许做什么，以及它实际做了什么。为此，需要从治理良好、可追溯的数据入手；增加清晰、机器可读的规则，以体现价值观和限制；并确保透明的决策记录，使行动能够被质疑并从中学习。
这类结构并不会减缓自主性的发展，反而使其更安全地实现规模化。
但治理不仅仅是结构性的，它也是情感性的。人们需要感受到自己仍拥有能动性。他们需要理解AI何时在行动、为何行动，以及如何进行干预。在技术上合规、但在体验上不透明的系统，会迅速侵蚀信任。
为此，清晰的设计选择至关重要，其中包括：
非欺骗性情感表达：智能体应避免使用拟人化的暗示，以免暗示其具有超出系统实际能力的共情、关怀或权威。情感语调不应暗示其具备道德理解力。
认知谦逊：智能体应表明其不确定性、局限性和置信水平。坦承“我不知道”是一项有助于建立信任的特性。
避免情感捕获：智能体不得无条件地强化信念、通过镜像情绪来加深依恋，或为依赖而优化。
一致性优先于说服：可预测、有原则的行为比适应性说服更能有效建立信任。
尊重用户自主性：智能体应支持反思与选择，而非暗中左右决策。这正是领导者需要提出不同类型问题的原因。不应只问“我们的AI是否负责任？”，还应问“这一系统将使哪些行为常态化？”“它将奖励什么？”“它将悄然抑制什么？”以及“它将随着时间推移塑造何种判断？”
具备认知共鸣的AI智能体将用户视为推理主体，而非行为操控的目标。当系统可被理解、有边界且可问责时，信任便随之而生。从长远看，这不仅是一项伦理要求，也是AI智能体实现大规模可持续应用的前提。
负责任的自主性的真正考验，不在于我们避免了哪些风险，而在于我们有意识地促成了哪些未来。因此，现在值得深思的问题简单却不容易回答：我们的AI正在帮助我们创造怎样的世界？我们是否准备好为之担责？
