关于现代AI治理的八大误解

从招聘筛选、职场监控，到资格审核、信贷审批，再到公共资源的分配，人工智能（AI）无处不在。谁进面试，哪份申请先被看，风险怎么标，公共资源流向何处，都在由它悄悄决定。

然而，政策讨论至今仍倾向于用两种方式看待AI：对未来构成威胁，还是中立的工具。这两种说法都有失偏颇。真正的监管风险，不是未来的假想系统，而是那些正在影响具有法律效力的决策的AI系统。

本文带您了解影响AI治理的八大根深蒂固的误解。这些误解不仅把AI看得太简单，还可能削弱治理、模糊责任，并分散监管应对当前风险的注意力。

把AI单纯定义为技术问题，就能让组织轻易把责任推出去。但现实是，AI是一种由人类决策的社会技术系统，涉及数据选择、目标优化、部署背景和可接受误差等方面。放在招聘筛选、绩效评分、行政分流的场景里，风险很少只是“算法本身”的事，更多取决于影响系统设计、落地和基础的制度性决定。如果把AI只当成技术，法律和组织责任就被模糊了。

规模大，不等于就可靠。在那些需要被监管的场景里，大数据集反而可能放大噪音、偏见和无意义的关联，而不是削弱它们。一组质量高、有代表性的数据，常常比那种堆得大却没梳理过的数据集更管用。如果政策制定者也把规模当成安全的指标，就可能导致一些连基本验证、记录、尽职调查等标准都不符合的系统得到支持。

这两种说法都站不住脚。AI确实不中立，但偏见也不是天生的。通过有意识的技术选择和治理决策，比如完善数据选择、设定优化边界、跨群体验证、长期审计等方式，偏见可以减少、甚至有效消除。真正的监管漏洞，在于把偏见当成不存在或者躲不掉的因素，没有在招聘、信贷、行政等系统里，设计有约束力的偏见管理责任机制。

AI可以帮助专家标注异常值、进行优先级排序，或推演可能结果，但它没法替人做判断、没法审慎行事，也没法承担法律责任。在职工解雇、补贴资格、合规审查这类事情决策中，把决策权交给AI会导致责任真空。政策制定者需要确保人类监督并非流于表面，而是有实际意义。AI参与的决策出了问题，责任还是能清晰溯源。

很多监管仅关注预测，却忽视了AI在排序、优化和决策方向上承担的角色。基于优化的生成式系统，就算没有做出预测，也可能影响结果。如果把AI只当成预测未来的工具，则无法构建完整的治理框架，从而衡量系统如何影响法律与行政决策。

不透明性常被认为是不可避免的。但现实是，可解释性更多时候是一种设计和治理选择。模型解读、解释机制、文档标准已经存在，并且已在对安全有严苛要求的领域应用。如果默认接受AI是黑箱，那行政和就业体系里最为关键的透明度、流程合规和审计要求也会被损害。

AI系统并没有“天生安全”或“天生危险”这回事。安全性来源于标准、测试、审查和监管。因为恐惧导致的禁止和监管失察一样无效。真正有效的治理，不是默认风险无法管理，而是聚焦于有效验证和问责。

这可能是所有误解里最危险的一个：总觉得AI监管可以之后再说。可现实是，AI已经在影响招聘、升职、解雇、资格评估和行政优先级排序等事项。将它视为未来的隐忧，会延误对当下已然产生法律后果的系统的监管。

AI治理的问题，很少源于技术局限，更多因概念性错误导致监管方向偏离。政策制定者应减少对未来的臆测，更多着眼于可强制执行的责任机制，比如：明确部署决策的问责机制、制定数据质量与验证标准、确立可解释性与可审计性要求，以及建立当AI辅助决策造成损害时的补救途径。

纠正这些误解虽无法消除所有风险，却能让政策制定者基于AI的实际现状、而非未来臆想进行监督，从而切实应对各类机构正面临的法律与合规挑战。

本文作者：

Niusha Shafiabady，澳大利亚天主教大学计算智能教授

本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。