人工智能如何加剧核战争风险

本文是世界经济论坛地缘战略平台

人工智能会颠覆核威慑理念吗？自1945年以来，这些理念帮助世界避免了核战争。人工智能的惊人进步，加上无人机、卫星和其他传感器的激增，使各国有可能发现并威胁彼此的核力量，从而加剧紧张局势。

斯坦尼斯拉夫·彼得罗夫中校坐进莫斯科郊外一处秘密掩体的指挥官座椅。那天夜里，他的任务很简单：监控正在筛查卫星数据的计算机，留意美国是否有发射导弹的迹象。时间是1983年9月26日，午夜刚过。

警报器在掩体墙壁间轰鸣。他面前的屏幕上闪出一个词。

“发射。”

自冷战初期以来，人们一直挥之不去地担心：计算机可能因失误或恶意，将人类推向核毁灭的边缘。

这种危险或许很快就会更多地成为科学现实，而非科幻情节。人工智能的惊人进步催生了能够学习和思考的机器，也在世界主要核大国之间引发了新的军备竞赛。我们需要担心的不是好莱坞大片里的杀手机器人，而是计算机如何挑战核威慑的基本规则，促使人类作出毁灭性决定。

这正是兰德公司一篇新论文的立论出发点：人工智能可能如何影响核战争风险？该论文是兰德公司一个名为“安全2040”的特别项目的一部分，旨在着眼未来，预判即将出现的威胁。

“这不只是电影里的情节，”安德鲁·洛恩说。他是兰德公司的工程师，也是该论文的合著者；他在人工智能领域的经验包括用人工智能为无人机规划航线、识别鲸鱼叫声以及预测NBA比赛结果。“如果不谨慎行事，一些相对简单的事情也可能加剧紧张局势，把我们带入危险境地。”

故障，还是末日？

彼得罗夫后来回忆说，椅子坐起来像煎锅一样烫。他知道计算机系统有故障。苏联担心自己在与美国的军备竞赛中落后，几个月前便仓促启用了这套系统。此刻屏幕显示“高可靠性”，但彼得罗夫的直觉却不这么认为。

他拿起电话联系值班军官，说：“误报。”突然，系统又闪出新的警告：又一次发射，接着又一次，再接着又一次。屏幕上的字泛着红光：

“导弹袭击。”

要理解智能计算机如何提高核战争风险，就得稍微了解一下冷战为何没有演变成热核战争。相关理论有很多，但“确保报复”始终是其中的基石之一。简单来说，就是：你打我一拳，我就还你一拳。若动用核武器，这一记还击可能摧毁整座城市；双方都不愿冒这样的损失。​​​​​​​

这一理论会得出一些看似违反直觉的结论。如果双方都拥有能够承受首次打击并予以还击的武器，局势就会保持稳定。谁都不愿冒险先出手。如果一方失去还击能力，甚至只是认为自己可能失去这种能力，局势就会变得更加危险和不确定。它可能会制造新武器以重新取得优势，也可能认为必须先发制人，在遭到攻击前出手。

人工智能的真正危险或许就在这里。计算机已经能够扫描数千张监控照片，寻找人眼永远无法察觉的模式。我们不难想象，更先进的系统会接收无人机影像、卫星数据，甚至社交媒体帖子，从而全面掌握对手的武器和防御情况。

一个无处不在、无所不见的系统，可能让对手相信自己容易遭受解除武装的首次打击，可能失去还击能力。对手会竭力寻找新方法，无论采取何种手段，重新扳平局势。这条路会让核战争迫在眉睫。

“自主系统无需杀人，也能破坏稳定，让灾难性战争更有可能发生，”爱德华·盖斯特说。他是兰德公司的副政策研究员、核安全专家，也是这篇新论文的合著者。“新的人工智能能力可能让人们觉得，如果犹豫就会落败。这可能让他们更容易扣动扳机。到了那一步，即使人们仍然可以说是在掌控之中，人工智能也会让战争更有可能发生。”

直觉

彼得罗夫的电脑屏幕上显示，有五枚导弹正飞向苏联。警报器长鸣。彼得罗夫一只手拿着电话联系值班军官，另一只手拿着通往计算机室的对讲机。那里的技术人员告诉他，他们在雷达屏幕和望远镜里都找不到导弹。

这完全说不通。美国为什么只用五枚导弹就发动核战争？彼得罗夫举起电话，再次说道：

误报。

如今，计算机能够自学走路——跌跌撞撞、不断摔倒，但持续学习，直到掌握为止。它们的神经网络模仿大脑的结构。最近，一台计算机在古老的策略游戏围棋中击败了世界顶尖棋手之一。它走出的一步棋如此陌生却又如此有效，以至于那位棋手站起身、离开房间，过了15分钟才走出下一步。

这种超级智能的军事潜力没有逃过世界主要核大国的关注。美国试验过能够追踪敌方潜艇数千英里的自主艇。中国展示了“群体智能”算法，可使无人机成群狩猎。俄罗斯最近宣布，计划研制一种水下末日无人机，它能够自主穿越海洋，投送一枚威力足以将大城市化为蒸汽的核弹头。

俄罗斯总统弗拉基米尔·普京曾表示，无论谁赢得人工智能优势竞赛，“谁就将成为世界的统治者”。特斯拉创始人埃隆·马斯克则有不同看法：他警告说，人工智能优势竞赛最有可能引发第三次世界大战。

关键时刻

在令人恐惧的短短几分钟里，斯坦尼斯拉夫·彼得罗夫站在核战争的悬崖边。1983年年中，苏联深信美国正在准备发动核攻击。他面前闪烁着红光的计算机系统是苏联的保险措施，目的是确保一旦美国发动攻击，苏联仍有时间还击。

斯坦尼斯拉夫·彼得罗夫，2016年

但那天夜里，系统把云顶上闪烁的阳光误判为导弹发射。

“误报。”值班军官没有要求解释，而是将彼得罗夫的消息逐级上报。

研究人员总结说，下一代人工智能将有“巨大潜力”动摇核安全的根基。开展国际对话，时机就在当下。

在技术如此进步的时代维护核和平，需要所有核大国携手合作。这需要新的全球机构和协议、敌对国家之间形成新的共识，以及新的技术、外交和军事保障措施。

未来的人工智能系统或许会证明自己如此可靠、如此冷静理性，以至于让核末日时钟的指针倒转。毕竟，人非圣贤，孰能无过。一台不犯错、不感到压力、没有个人偏见的机器，或许能带来原子时代从未有过的稳定。

研究人员总结说，那一刻仍遥不可及，但从现在到那时的这些年将格外危险。拥有核武器的国家增多，加上对人工智能的依赖加深，尤其是在技术尚未成熟之前，都可能导致灾难性误判。到了那时，夜班中校或许已经来不及阻止战争机器运转。

斯坦尼斯拉夫·彼得罗夫与核灾难擦肩而过的故事，提醒新一代肩负起引领深刻且可能破坏稳定的技术变革的责任。2017年去世的彼得罗夫曾简洁地说道：“我们比计算机更明智，”他说，“是我们创造了它们。”

兰德公司的研究人员召集了人工智能和核战略领域的一些顶尖专家，举办了一系列研讨会。他们请专家设想2040年的核武器系统状况，并探讨届时人工智能可能发挥稳定作用还是破坏稳定作用。

观点一——对这项技术持怀疑态度

许多人工智能专家怀疑，届时这项技术的发展是否足以在核决策中发挥重要作用。它必须克服容易遭黑客攻击的问题，还要抵御对手污染训练数据的行为，例如通过异常行事来制造虚假的先例。

观点二——核紧张局势将加剧

核战略专家回应说，人工智能系统无需完美运行，也能加剧核紧张局势。对手只需认为它能完美运行，并据此作出反应。结果将是有核武器的对手之间进入竞争与猜疑的新时代。

观点三——人工智能学会制胜之道在于不参战

一些专家仍抱有希望，认为遥远的未来某一天，人工智能可能变得足够可靠，从而消除核战争威胁。例如，它可以用于追踪核武器发展，并确保各国遵守防扩散协议。或者，它可以帮助人类避免在核对峙压力下犯错和作出错误决定。正如一位专家所说，未来的人工智能或许会像1983年电影《战争游戏》中的计算机那样得出结论：核战争中唯一的制胜之道就是不参战。

人工智能如何加剧核战争风险，道格·欧文，兰德公司