人工智能通过自动化人类的推理与认知,已从技术工具转变为基础设施。
认知委托在提升全球生产力的同时,也使经济权力趋于集中,并推高能源消耗需求。
随着人工智能系统日益影响社会决策,未来的治理必须优先保障人类能动性和透明度。
人工智能正迅速从一项专业技术能力转变为日常生活的基础要素。语言模型已不再局限于研究实验室或企业工作流程。如今,它们已嵌入人们写作、搜索、学习和决策的方式之中,并日益发挥认知伙伴的作用。
这一转变不仅仅是技术升级,它标志着认知本身的治理方式发生了结构性变化。在过去十年里,数字社交媒体平台通过捕捉日常互动中的行为痕迹创造经济价值。如果说数字化转型的过去十年是以通过这些平台提取社会数据为特征,那么当前阶段的特征则是将认知工作委托给人工智能系统,workplace surveys显示员工已在大量工作中使用人工智能工具。这一转变引出了一个紧迫的问题:治理那些不仅塑造行为、而且日益参与推理和判断的系统,意味着什么?
从社交平台到认知委托
社交媒体平台将日常互动转化为经济价值的来源,其方式是设计人们建立联系、表达认可和分享注意力的机制。这些平台拥有数十亿用户,通过标准化的操作生成了海量结构化且可计算的数据。这种架构实现了前所未有的规模。然而,它也将解释权与经济权力集中到少数占主导地位的数字平台手中,这一转变在最新的全球广告预测中也有所体现。
语言模型将这一逻辑延伸至人类活动更深的层面。它们不仅捕捉社交互动,而是直接作用于语言,即人类推理的主要媒介。由此,它们催生了一种基于认知委托的新型价值创造形式:将某些类型的脑力劳动外包给自动化系统。
作为认知基础设施的语言模型
语言模型作为一种新型基础设施发挥作用。与早期的数字平台一样,它们的设计目标是无摩擦且可规模化。然而,与社交平台不同,其主要影响在于人们如何理解问题并做出决策。每一次交互都会揭示人类推理的片段。这些数据流有潜力创造可观的经济价值,预计到2032年,人工智能行业的此类价值将达1.3万亿美元,同时赋予其显著的认知权力。这种权力体现在塑造何者可被理解、何者可被付诸行动。
与此同时,语言模型的益处也十分可观。它们能够显著提升生产力。研究表明,语言模型可以缩短任务完成时间,使普通职业中近一半的任务完成得更快,并使大多数岗位的相当一部分工作得以加速。它们还降低了获取专业知识的门槛,并使人们能够跨越语言障碍参与其中。通过提供实时综合分析和决策支持,这些系统帮助个人和组织应对复杂局面,否则这些局面可能需要耗费大量时间和机构能力。
当代语言模型使用的一个显著特征是其在舆论形成和决策支持中的作用日益增强。用户越来越多地咨询人工智能系统,不仅获取事实信息,还寻求日常决策的指导。尽管这些系统缺乏意图或价值观,但其输出结果受训练数据和设计约束的影响。这带来了自动化偏见风险,即过度信任机器生成的输出结果的倾向,因为这些结果看起来自信且中立。
对普通用户而言,协助与影响之间的区别往往并不清晰。语言模型并不发出指令,但其流畅的表达赋予了它们说服性的权威。在低风险情境中,这或许无伤大雅。然而,在大规模应用下,对自动化推理的持续依赖会引发重要的治理问题。
认知委托背后的经济逻辑
语言模型的快速普及有着强大的经济激励作为支撑。仅2025年,全球人工智能投资就达到2590亿美元。与早期的平台模式一样,访问通常以数据为交换获得补贴,而高级功能则实现商业化。
认知委托的经济性也带来了实质性的影响。早期的数字工具将能源成本分摊到个人设备和组织中,而大规模语言模型则依赖集中式数据中心,其能源需求庞大且持续不断。2024年,全球数据中心耗电量约为415太瓦时,约占全球总用电量的1.5%。这些数据中心往往位于特定司法辖区,使从写作到决策等日常认知活动与遥远的能源市场和监管体制相互关联。在用户层面看似去中心化的事物,实际上正日益在基础设施层面趋于集中。
这一动态加剧了集中化。大规模语言模型的开发与治理日益由少数行为体掌控。随着这些系统逐渐成为基础设施,透明度与问责问题便成为公共利益议题。
这对人工智能治理意味着什么
对于全球治理机构而言,认知委托的兴起表明需要完善现有的人工智能治理框架。当前的诸多方法源于早期对平台经济的监管努力,包括欧盟《通用数据保护条例》等数据保护制度,以及欧盟《人工智能法》基于风险的结构。这些框架旨在规范数据处理行为并限制可识别的危害。尽管它们仍然必要,但并非为主动塑造信息解读方式和决策过程的系统而设计。因此,语言模型更多地是决策过程中的中介,而非被动的处理者。
这一转变将人类能动性置于人工智能治理的核心。随着语言模型日益影响问题的界定方式和选项的排序方式,透明度就从技术保障转变为制度性要求。当人工智能介导的输出影响现实结果时,清晰的问责链条至关重要。当系统行为反映出文化失衡时,包容性必须作为结构性问题加以解决。公众信任将取决于治理框架是否被视为服务于更广泛的公共利益。
综合来看,这些动态表明,语言模型代表了数字系统演进的新阶段,在这一阶段,认知本身成为自动化与协调的场域。随着这些系统日益塑造个人和机构的理解与决策方式,它们不仅应作为技术加以治理,更应作为社会系统加以治理。对于负责公共和机构决策的人员而言,当前的任务不是抵制自动化,而是以保障智能辅助时代人类能动性的方式对其加以治理。


