即将到来的通用人工智能混乱及其影响的缓解之道

The rhetoric of a 'race' to artificial general intelligence serves the interests of hyperscalers, but not societies.
The 'race' to artificial general intelligence overlooks the potential risks to societies.Image: Getty Images/iStockphoto
本内容由人工智能自动翻译。
  • 通向通用人工智能的“竞赛”,与其说关乎谁先实现AGI,不如说关乎谁掌控着机器智能得以普及的系统。

  • 围绕AGI竞赛的叙事为超大规模云服务商及其股东的巨额投资提供了依据,但同时也转移了人们对社会所面临的最大风险的关注。

  • 如果各国政府继续将人工智能视为一场必须赢得的竞赛,它们就可能忽视更艰巨的任务:建设能够吸纳自身无法完全掌控的智能的社会。

公共和私营部门的决策者常常将 通用人工智能(即AGI)视为一场竞赛。这一框架令人安心,却是错误的。

人工智能的“竞赛”并非要越过类人能力的终点线,更遑论神一般的智能。它关乎机器智能在企业、政府和公共服务中的扩散,而此时政治制度尚未为之做好准备。

人工智能已在全球经济中扩散,其速度快于制度的适应能力,而其收益很可能集中于那些掌握算力和分发渠道的人手中,智能正是通过这些渠道得以部署。国际货币基金组织(IMF)已发出警告 指出生成式人工智能既可能提高生产率,也可能扩大不平等。

在此背景下,通用人工智能竞赛的说辞服务于前沿实验室和超大规模云服务商的利益,它们借此为其在芯片、数据中心和能源基础设施方面的巨额投资寻找正当理由。对于仍需应对 劳动力替代、日益复杂的 网络威胁 以及主权受损等问题的政府和社会而言,这一说辞的用处要小得多。

问题不在于谁先实现AGI,而在于谁控制着机器智能得以普及的物理与数字系统?

为何人工智能“竞赛”的类比是错误的

流行的说法是,美国和中国正陷入一场技术霸权之争。华盛顿拥有前沿实验室和芯片主导地位,北京则拥有规模优势、工业纵深,并有动机让部署变得更便宜。两大强国常被描述为相差仅数月,各自竞相阻止对方取得决定性优势。但这一说法并未充分反映各国政府所面临的问题。

通用人工智能的定义仍不清晰,关于其时间表的预测往往混淆而非澄清问题。美国在私营人工智能投资方面处于领先,但中国模型已缩小了性能差距,涵盖与成本、速度和可扩展性相关的关键基准。

当人们追问胜利意味着什么时,一个国家或企业能够“赢得”的说法便不攻自破。最强大的模型、最大的企业市场、最高的生产率收益,或最先进的监控系统,各自赋予不同类型的权力。

然而,关于胜利的说辞仍在支撑超大规模云服务商及其股东的巨额投资,而这需要一个足够宏大的叙事来为之辩护。这种框架把商业加速变成了战略必需,并转移了人们对承担最大风险的社会的关注。

这一冲击将随着通用机器智能扩散到国家、市场和日常生活的常规运作之中而显现。它已经进入福利体系、企业运营和军事规划等领域。即便正式宣布达到AGI门槛,智能的政治经济格局也早已发生变化。

人工智能强国的层级结构

竞赛隐喻也掩盖了人工智能权力的新格局。位于顶层的是美国和中国。美国走的是集中化、资本密集型路线,而中国则推动效率提升和国产替代。

美国的芯片限制可以放缓中国的发展,但也迫使其在稀缺条件下进行创新。一个以更低成本和更广泛部署为优化目标的系统,可能具有重大的地缘政治意义。分析的结论是,DeepSeek的低成本推理模型尽管是在美国图形处理器出口限制下开发的,但仍保持了竞争力。

位于它们之下的是中等强国,它们试图建立足够的人工智能能力,以避免依赖外国的模型、芯片和云服务。加拿大、法国、印度、日本、沙特阿拉伯、韩国、新加坡、阿联酋和英国具备认真尝试的资本、人才或战略动机。

其他国家将寻求在公共服务、国防和受监管行业中实现范围较窄的自主。大多数国家不会构建前沿模型,许多国家仍需要更多算力和更深入的资本市场,才能保持对关键功能的控制。

第三梯队包括大多数其他国家,它们将利用现有可用的技术。开源模型和专用应用将使各国政府和企业能够将日益通用的系统调整为适应本地需求。这些做法可能带来一定程度的自主性,但也会加深对他国设计的架构的依赖。

矛盾的是,近期最大的收益可能归于那些愿意利用开源模型和边缘模型、而非前沿系统的主体。许多有价值的应用并不需要位于遥远数据中心的万亿参数模型。较小的系统能够变革健康诊断和欺诈检测,同时更贴近用户运行,部署于企业内部和公共机构之中。

这一点至关重要,因为通用能力将通过在真实环境中执行任务的智能体和特定领域系统,以及大型前沿模型而到来。扩散既提升了能力,也扩大了暴露面。

开放模型和边缘系统扩大了攻击面,并降低了对下游用途的可见性。那些改善公共管理的系统,同样可能扩大监控范围或实现侦察自动化。

通用人工智能使主权承压

当前的关注点也忽视了风险的叠加性质,因为各国政府仍将人工智能风险与通用人工智能风险孤立看待。

国家安全将因自主武器和合成宣传而改变。随着资本取代劳动力,市场格局将被重塑。当国家发现智能层由他国掌控时,形式上的独立便意味着更少,主权本身也将受到考验。

占主导地位的通用人工智能投资论认为,回报将流向算力和分发渠道的所有者。这或许令股东感到安心,但对工人和纳税人而言则不那么令人宽慰。

如果机器智能在提高生产率的同时削弱劳动收入并使租金集中,政治和社会失序可能迅速到来。

很少有社会以该冲击所需的规模做好准备。各国政府仍在沿用创新战略和自愿性保障措施。企业竞相角逐,因为投资者奖励速度。公民却被要求信任那些早已大为丧失权威的制度。

劳动力冲击是最直接的政治危险。人工智能无需彻底消除工作岗位,也能使社会失稳。一种 工资与职业阶梯的压缩 ,横跨文职、客户服务及软件相邻岗位,可能损害家庭收入,并削弱许多民主社会所依赖的教育、努力与回报之间的关联。

人工智能为何对民主构成威胁

民主制度面临一个特殊问题,因为其制度难以进行长期规划。监管体系支离破碎,而公众本就对专家抱有怀疑,更不必说对企业和政治领袖了。

中国的集中式模式或许更适合引导资本和强制推行采用。但这并不等同于社会韧性或创新质量。这是对民主能力的警示,而非对集中控制的认可。

默认的发展轨迹是混乱,而非丰裕。美国将持续推动前沿发展,以避免失去技术优势。中国将推动能力扩散,因为它看到了一条绕开美国主导地位的道路。

中等强国将寻求实际自主,以减少对外国芯片、云服务和模型的依赖。企业整合能力日益增强的智能体的速度,将快于政府监督它们的速度。

要避免这一默认轨迹,就需要更为严肃的通用人工智能政治。领导者必须将机器智能视为国家安全、国家能力和公共合法性问题,而非创新议程。

主权人工智能战略应侧重于关键系统上的实际自主,而劳动政策则需要先于岗位替代而行动。安全治理必须延伸至超越自愿承诺,并超越狭隘的模型评估。

最艰巨的任务是在低信任度社会中重建集体能力。通用人工智能治理将需要各国与企业之间的合作,也需要对立大国之间的合作。它还要求公共机构在危机出现之前采取行动。

重新界定通用人工智能

各国政府必须将人工智能重新定位为关键基础设施,而非商业软件,并认真关注算力获取、公共数据系统和评估能力。劳动力冲击应被视为财政和政治问题,而安全治理则应从自愿承诺转向可强制执行的义务。

政治领导人需要持续参与,以了解通用机器智能能够做什么。这既需要与技术专家和社会科学家进行深入对话,也需要与广大公众对话,因为民主合法性取决于让公民参与关于如何部署机器智能的决策。

对于绝大多数国家而言,可信的主权通用人工智能战略并不意味着构建声望型前沿模型。它意味着确保足够的计算能力和可信的公共数据,以在关键领域治理先进模型。

劳动力市场的准备工作需要加快得多。各国政府应识别高度暴露的职业,并在岗位替代变得剧烈之前重新设计培训体系。

安全治理必须变得更加强硬。网络和国防应用需要强制性测试、事件报告和可执行标准。在激励机制奖励速度的情况下,自愿性承诺难以奏效。

财政政策也必须做出改变。人工智能税和机器人税应被研究,作为资助社会适应的方式。若替代问题变得足够严峻,普遍基本收入可能成为必要之举,尽管仅靠再分配无法取代工作作为尊严来源的作用。

人工智能将带来巨大的生产率增益,但谁将获取这些收益,以及公共机构能否在冲击固化为不信任之前采取行动,仍是悬而未决的问题。如果各国政府继续将人工智能视为一场必须赢得的竞赛,它们将错失更艰巨的任务:建设足以吸纳自身无法完全掌控的智能的社会韧性。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。