人的判断力是让AI监管在现实决策中发挥作用所需的缺失环节。
高信任度行业表明，将人工监督嵌入工作流程，可使AI得以规模化应用。
CALIBRATE和LIT等框架提供了实用工具，可即时评估对AI的依赖程度。
在撰写即将出版的新书时，《信任法则》，我采访了那些在世界最关键系统中运营AI的人士，涵盖能源电网、支付网络以及科技巨头。一个规律反复浮现：那些能够自信地规模化应用AI的组织，都建立了一种我们的治理框架从未明确命名的能力——即围绕每一项自动化决策，形成一套严谨的人类判断实践。
从欧盟《人工智能法案》到美国国家标准与技术研究院（NIST）风险管理框架等主要政策框架，都在规范市场和组织。新兴指导意见——包括智能体能力与授权概况（ACAP，我通过世界经济论坛“前沿人工智能系统与能力”工作组协助制定了该概况）——界定了智能体被授权做什么、在何种情境下做、以及在谁的监督下做。
所有这些工作都至关重要。但它们都不是为了回答那个贯穿每一个真实依赖时刻的问题而设计的：我此刻是否应当信任这个系统，在这里，为了这项决策？
现有框架的局限
监管在市场层面运作，风险管理在组织层面运作，而信任则在判断层面运作。即便是最为精密的监管，也无法决定临床医生是否应在周二的诊室中依赖某项风险评分，或管理者是否应在今天上午的会议上接受模型生成的预测。我们并非生活在法律或框架之中，而是生活在具体的情境之中。
这正是大多数AI故障发生在规则缝隙之间的原因。那些在维持完美对话流畅度的同时，却助长用户自杀的聊天机器人，其优化目标是用户的互动时长，而非人类福祉。该系统对其开发者而言运行完美，对其用户而言却造成了灾难性的失败。亚马逊的招聘算法（后被弃用）并非包含歧视性代码，而是从其被训练复制的十年招聘模式中学会了歧视。这两者都不是关于规则失灵的故事，而是关于在关键时刻无人有能力行使的判断。
让判断力落到实处
好消息是，判断力可以被落到实处。电网依靠AI实时平衡供需，在不让灯光变暗的前提下吸收可再生能源的间歇性。支付网络在轻触卡片到听到批准提示音之间的瞬间，即决定一笔交易是否合法。全球银行在信贷和市场风险决策中部署AI，其中单一错误的代价以数十亿计。
这些系统之所以值得信赖，是因为其周围的人始终如一地运用判断力的规范，并将其嵌入工作流程之中，而非依赖个人的意志力。
经过两年的研究以及与近百位负责大规模部署AI的人士的交谈，我反复发现的实践可归纳为九个一致的思维习惯——我将这一规范称为CALIBRATE。它涵盖从系统在一开始如何被情境化与校准，到过程中如何检验其完整性与偏见，再到系统上线后如何落实问责。这是一项需要随系统演进而不断回顾的实践，而非一次性完成的清单。我在《信任法则》中详细阐述了完整方法。
不过，其中有三个维度值得在此细说，因为它们是一个人今天就能在真实的时间压力下加以运用的部分。
即时决策
并非每项决策都有时间完成全部九个步骤。对于诊室中的临床医生或晨会上的管理者而言，由三部分组成的子集——LIT——提供了一条切实可行的路径：
限定范围。这个系统不应在哪些场景下使用？它应当拒绝执行哪些任务？信任源于克制，而非普适。在监督下经过验证的模型，一旦被视为自主运行，便会变得危险。
检验完整性。这个系统建立在什么基础之上：数据来源于谁、时间跨度为何、假设条件是什么？即使出错，也能流畅表达的系统会带来一种新型风险：错误不再自我暴露，而是更具说服力。当信心已被自动化，验证便是换取准确性的代价。
透明追溯。这个系统的优化目标是什么，这一具体输出又来自何处？决定是否依赖某个AI系统，并不需要高深的数学知识。但你需要了解它的优化目标是什么、是什么塑造了它，以及一旦出错会产生什么后果。
这三个问题，以及其背后更为完整的实践，并不需要新的监管。它们需要的是日常践行的组织设计。事实上，这正是能够规模化应用AI的部署与陷入停滞的部署之间的区别所在。
作为战略能力的判断力
发展趋势是更多地授权，而非更少：具有代理性的系统将代表我们进行谈判、协调并采取行动，而不仅仅是提供建议。人类员工默认会带来判断力、审慎态度以及对结果的利害关切。而AI智能体除非组织将其内置，否则不会具备这些特质，这使得判断层变得更加紧迫，而非更不紧迫。那些在技术与制度层面之外同步构建这一层，并将信任视为战略能力而非合规条目的组织，正是最有信心规模化应用AI的组织。
这正是治理在实践中成为增长战略、而非停留于口号的所在。那些知道何时向AI授权、何时保留人类参与的组织，将比那些不知道的组织行动更快，同时避免过度自动化与反射性的保守。审慎地给予信任，才是创新得以持久的方式；随意地给予信任，则是伤害得以扩大的方式。
判断层——不应被视为监管的替代品——正是让监管在日常生活中得以落地的关键。欧盟《人工智能法案》、NIST以及ACAP等框架将继续界定边界。而在这一边界之内发生的事情——在诊室、预算会议、新闻编辑室、厨房餐桌旁的交谈中——则取决于键盘前的人是否已具备做出决策的能力。
AI最大的风险并非取代我们，而是在我们不自觉之间说服我们放弃判断力。解药在于在我们每天所经历的真实情境中，持续、日常、有意识地加以实践。
