自主性悖论：人类真的在掌控AI决策吗？

招聘人员审核由AI生成的候选人名单、信贷专员研究风险评分、采购总监查看按优先级排序的供应商名单。每个最终决策仍由人类批准，从表面上看，人类掌握着主导权。

然而，系统早已决定了什么值得关注、什么可以忽略，以及哪个选项应排在首位。人类虽拥有选择的权力，却对选择的形成过程控制甚少。

这种形式上的权威与实际影响力之间的差距，是商业领域AI应用中鲜少被探讨的成本之一。如今，这一点尤为重要，因为这项技术正从小规模试验迈向组织运作的日常机制。

经合组织（OECD）报告显示，在有数据可查的国家中，使用AI的企业比例从2023年的8.7%上升至2025年的20.2%。世界经济论坛《2025年未来就业报告》发现，86%的雇主预计到2030年，AI和信息处理技术将彻底改变其业务。

其带来的好处相当可观，包括分析速度更快、获取专业知识的渠道更广、创新空间更大等。但风险在于，企业可能会逐渐不再察觉自己将多少决策权交给了AI。

大多数组织采取AI风险的应对措施是让人“参与其中”，如经理批准预测、招聘人员审核候选人名单、银行家签署贷款决定等。这是必要的，但还远远不够。

一个最终签名告诉我们谁应承担责任，却无法揭示谁真正塑造了这一决策。如果AI对选项进行了排序、总结了证据、分配了风险评分，并将一项建议设为默认选项，那么在任何人点击“批准”之前，大部分选择工作就已经完成了。

这就是自主性悖论：人们保留了可见的选择行为，而技术却安排了他们进行选择的条件。在公司内部，这看起来与其说是权力的转移，不如说是一种便利。通常来说，AI的建议清晰明确，且截止日期临近，质疑系统又需要额外的工作，因此顺从AI便成了常态。

其商业后果可能十分严重。反复接受机器输出结果的员工，可能会丧失识别特殊情况所需的专业能力；团队可能围绕相同的假设作出趋于一致的决策；组织在熟悉的环境中效率极高，但当市场发生变化或模型遇到未预见的训练数据的时，却会出人意料地脆弱。

这便构成了一项竞争难题。在竞争中，企业的优势极少源于与他人得出相同的结论，而往往源于察觉到模型未能捕捉到的细节，如客户行为的转变、当地的特殊情况、新出现的风险，或是历史尚未记载的机遇。

AI的经济潜力巨大，但生产力不能仅归结为节省的时间或生成的报告。经合组织（OECD）对生成式AI的分析指出，企业需要调整其组织结构、流程和战略，以充分发挥其生产力潜力。这不仅仅是一个软件部署问题，更是关乎企业如何持续学习的问题。

一家企业今天可能变得更高效，却不知不觉间削弱了明天所需的能力。如果初级员工不再从事那些能培养判断力的工作，谁又能在五年后成为经验丰富的决策者？如果每个团队都从同一份机器生成的报告出发，建设性的分歧又从何而来？如果管理者必须为每一项偏离算法建议的决策进行辩护，那么人类监督就沦为走过场。

劳动力面临的挑战已经十分广泛。国际劳工组织（ILO）估计，全球四分之一劳动者从事的职业会在某种程度上接触生成式AI。该组织同时强调，工作转型比彻底替代更可能发生。这种转型的质量将取决于劳动者是成为机器输出的被动接受者，还是能够质疑并改进这些输出的积极参与者。

企业无需在技术雄心与人类能动性之间做出选择。但它们确实需要做出三项有意识的改变。

追踪影响，而不仅仅是追责。治理机制不应仅记录谁批准了结果。领导者应审查系统默认进行了哪些排序、筛选、总结或呈现。AI的影响在固化为权威之前必须使其可见。

让异议成为可行的现实。员工需要的不仅仅是理论上推翻系统的权利，他们需要获得替代方案、评估建议所需的充分证据，以及提出异议或上报问题的可行途径。推翻系统决定和险些出错的情况应被视为员工学习的明证，而非低效的迹象。

保护判断力资本。董事会负责监督财务、技术和人力资本，他们还应保护个人和团队积累的能力，即解读模糊性、检验假设以及在模型失效时采取行动的能力。这意味着即使从短期来看自动化似乎更具经济效益，企业仍然应当保留学徒制、领域专业知识以及真正不同的视角。

从原则到实践的转变刻不容缓。世界经济论坛的《推进负责任的AI创新：行动手册》显示，不到1%的组织已以全面且前瞻的方式，将负责任的AI彻底落实。弥合这一差距，才是让创新变得值得信赖、具有韧性，从而实现规模化发展。

AI应当消除繁重劳动、拓宽视野，并帮助人们做出更明智的决策。它不应悄无声息地剥夺人们思考的责任。AI时代最强大的企业，不会是那些名义上让人类留在决策回路中的企业，而是那些让人们在智力层面真正参与其中，并赋予其技能和权力说：“机器可能是对的，但让我们再看一遍。”

本文作者：

Tony Bader，Innovative Solutions联合创始人兼首席运营官

本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。