人工智能(AI)需要持续适应的治理,而非定期调整。实时监测机制有助于及早发现风险,并增强公众和投资者的信心。
敏捷试点和监管沙盒表明,政策可以与技术一样快速演进。
公私合作有助于确保创新的益处得到充分实现、负责任地开发,并获得可持续的投资。
人工智能(AI)不断演进的基础设施正在塑造经济、社会和公共服务。生成式人工智能、多模态模型、自主智能体、机器人及其他前沿技术的快速规模化应用,带来了能够在现实环境中快速更新、协调并表现出变化行为的新能力。
在诸如全球人工智能伙伴关系(Global Partnership on Artificial Intelligence)和AI全球联盟(AI Global Alliance)等国际倡议中,有一点很明确:最严重的运营风险并非出现在部署阶段,而是在之后的过程中逐渐显现,即系统在适应变化或与其他模型和基础设施交互时。然而,现有的治理时间表无法捕捉这些变化。
与此同时,在包括欧盟《人工智能法案》(European Union’s AI Act)在内的新监管框架生效之际,各组织面临着既要安全、又要保持竞争力地采用人工智能的巨大压力。为定期合规而设计的治理模式,无法跟上学习型人工智能系统的复杂性,也无法与之相匹配。
所需要的是敏捷、迭代的监督机制,能够随着系统演进和新证据出现而更新。
我们如何实现实时的人工智能治理?
生成式和智能体系统已不再是功能固定的工具。它们通过强化学习不断适应,回应用户交互,整合新信息,并能够与其他系统协调。这些特性要求治理更像一个有生命的系统,而非定期审计。
路径十分清晰:治理必须从静态转向动态,从事后回顾转向实时,从合规转向持续保障。一些国家和组织已在这方面率先行动。
1. 从时点审计到持续监测
与现代网络安全类似,治理的重心正转向始终在线的可观测性。持续监测系统,例如自动化红队测试、实时异常检测、行为分析和监测应用程序编程接口(API),能够在模型演进过程中评估其行为,而不仅限于受控测试。
如出版物《推进负责任的人工智能创新:行动手册》(Advancing Responsible AI Innovation: A Playbook)所述,新的“控制平面”和人工智能智能体能够提供持续的风险评估,使组织能够在有害偏移、幻觉、自我保护行为或公平性偏差出现时及时发现。
例如,Cognizant的TRUST框架(TRUST Framework)等企业平台可按需提供持续的风险检测,并对人工智能系统的信任、安全和性能进行监测和度量,从而实现实时的治理可见性和快速、基于数据的干预。
新加坡的AI Verify工具包等国家层面的举措,将稳健性、事实性、偏见和毒性测试纳入面向生产系统的结构化评估周期,表明在国家规模上开展持续且标准化的评估是可行的。
2. 从静态保障到动态、自适应政策
传统的护栏机制假定系统行为保持一致。然而,当今的模型可能因更新、用户交互或接触新数据而发生变化。这就要求政策能够适应系统行为,例如通过动态内容过滤、情境感知的安全约束或自适应访问控制来实现。
一份近期报告提出了构建富有韧性的政策与监管的360°方法,指出复杂的自适应监管可以根据观察到的系统影响和预设阈值进行调整,如同金融风险模型或公共卫生监测系统那样。
3. 从零散监管到行业层面的保障体系
各国政府正开始建设人工智能监管的共享基础设施,包括国家安全研究所、模型评估中心和跨行业监管沙盒。
广岛人工智能进程(The Hiroshima AI Process)、新加坡全球人工智能保障试点(Singapore’s Global AI Assurance Pilot)和国际人工智能安全研究所网络(International Network of AI Safety Institutes)表明,人们日益认识到,没有任何单一企业或政府能够独自评估人工智能风险。
该领域的合作有助于在界定共同风险、标准化报告、共享测试协议和协调事件披露方面取得进展。这些方面对全球互操作性至关重要——若缺乏这些,跨国经营的企业将面临合规迷宫,而政府则可能面临监管盲区。
给决策者的建议
敏捷的人工智能治理并非为速度而速度。其目的在于为能够学习、适应并相互作用的系统创造条件,使其得到有效监督,从而兼顾创新与安全。
各行业的证据表明,实施系统性监测并进行透明报告的组织,部署延迟更少,与监管机构的沟通更为顺畅,高风险应用的规模化推进速度也更快。
实时监督还能在危害扩散之前加以防范,在生命周期早期识别有偏见的输出、毒性激增、数据泄露模式或意外的自主行为。
此外,通过纳入来自民间社会和受影响群体的持续反馈,敏捷治理有助于确保人工智能系统与社会期望保持一致,并能随着这些期望的演变而调整。但要将这些益处转化为制度性实践,需要协调一致的行动。
对政策制定者的建议包括:
建立国家人工智能观测站和模型评估中心,汇总各行业的测试结果、事件数据和系统性指标。
采用基于风险分级的自适应监管框架,在保护公众的同时不妨碍创新。
统一透明度和事件报告标准,并配套设立安全港条款,以激励早期披露和集体学习,而非实施惩罚性应对。
加强国际合作,避免规则碎片化和风险分布不均。
对行业领袖的建议包括:
在人工智能的全生命周期中部署持续监测。
将负责任的人工智能嵌入开发流程,辅以自动化评估和实时预警。
为智能体人工智能实施自适应护栏,并对人类监督进行现代化改造。
投资于人工智能素养和治理技术,并将信任视为一种战略能力,而非形式上的核对清单。
面向未来的治理从现在开始
随着人工智能系统变得更加动态、自主,并深度嵌入关键职能之中,治理必须从定期核验转向持续保障。
这一转变与世界经济论坛在瑞士达沃斯举办的2026年年会的主题相呼应,即大规模、负责任地部署创新,并呼吁采取适合前沿技术的监管方式,以维护人类能动性,并通过信任促进增长。
变革始于一个简单的认识:在自适应、自主的人工智能时代,治理必须同样具备适应性、持续性和智能性。任何不足之处不仅是不够的,也是我们无法承担的竞争劣势。

