为什么要优先重视人工智能的可持续发展？

人工智能将成为本世纪及未来最重要的技术。AI将改变我们生活的方方面面，并帮助我们应对全球一些最紧迫的问题，包括气候变化、道路安全和癌症等。过去几年，在生成式AI浪潮的推动下，我们已经开始看到这一潜力逐步变为现实。

但我对行业的发展方向及对后代和地球的影响感到忧虑。现代AI的能力令人瞩目，开发这一技术的主要方法却是依靠“蛮力”。更好的性能需要更大的模型，使用更多的数据、计算资源和能源。这一路径所带来的复杂问题和不平等现象已经出现。

如果我们继续沿着这条道路前行，不可持续的循环将一直持续，直到资源耗尽。我们必须改弦更张，注重开发可持续的AI，以充分释放AI的潜力，同时为这一变革性的技术创造一个公平的未来。

过去几年，AI模型的规模迅速扩大。尽管每一代新模型都在一些方面取得了进步，但开发成本也变得越来越高。据报道，2024年OpenAI将花费高达30亿美元用于训练ChatGPT及更新的模型，运行推理工作的服务器则将耗资40亿美元。为了在AI竞赛中保持竞争力，微软、Meta、亚马逊和谷歌的资本支出大幅增加，预计2024年将超过2000亿美元。

计算成本持续升高，能源消耗也不断增加。据估计，一个大型语言模型（LLM）单次训练所消耗的电量相当于130户美国家庭一年的用电量。随着模型变得更加庞大，这一数字还会继续增加。根据国际能源署（IEA），到2026年，数据中心的用电量将翻倍，需求将增至650-1050太瓦时。国际能源署指出，在高水平上，这将相当于增加一个像德国这样的国家的用电量。

这种不可持续的路径还产生了更广泛的社会影响。AI的“蛮力”开发模式带来了入行壁垒，限制了那些没有大量资源的群体获取AI创新的机会。我们开始看到计算资源成为一种新的地缘政治资本，富裕国家正在争夺先进芯片制造的控制权。这一趋势可能导致一个只有少数人掌握技术并从技术应用中获益的世界。这种局面可能会加剧现有的不平等，并抑制创新。

我们还有更好的模式。

当今的神经网络架构已经证明了其在规模化方面的成功，因此，行业的态度一直是：为什么不沿用原来的方法呢？然而，随着模型接近饱和，取得进步所需的成本大幅升高，预测“性能会随着模型规模扩大持续提升”的AI规模定律正在失效。

我们必须立即采取行动，而不是等着遭遇瓶颈。业界、学术界、风险投资界以及政府中最杰出的人才必须将注意力和资源重新聚焦于可持续AI。这不仅意味着开发具有先进推理能力、能利用更少的例子进行归纳的新AI模型，还需要彻底重构学习范式以及数据在训练过程中的角色。

当前主流的AI模型训练效率不高，因为这些模型依赖于模式识别，而非真正的理解，其能力类似人类的“系统1”思维。这是由心理学家Daniel Kahneman提出的概念，指的是快速、直觉、反应式和无意识的认知处理，未经过深层推理。人类依赖系统1思维进行快速决策。例如，当有行人突然出现在车前时，我们会猛踩刹车。大多数AI模型利用这种思维方式进行所有的决策。

在解决更复杂的问题时，人类会运用“系统2”思维，这需要更深思熟虑地做出有意识的决策。在上文的例子中，如果有更多时间，我们会思考可采取的其他行动和后果，并选择最安全的做法。与立即猛踩刹车相比，我们可能会选择转向。这样既能避免撞到行人，又能防止后车追尾。在过去二十年中，我开发了多代能够以类似方式“思考”的AI模型。这些模型像人类一样，能利用更少的例子进行归纳，并更有效地适应新情境。这种方法能够开发出更加安全、性能更好且更可持续的模型。

传统的AI训练方法依赖庞大的静态数据集和“蛮力”学习，即AI通过循环数据集中的例子来获取知识。这是一种过于简单且低效的学习方式。

我们需要转变学习范式，反映出人类学习微妙、动态的本质。重点不在于数量，而在于随着AI技能和学习能力的成熟而不断变化的高质量、高信息量数据。例如，小学一年级时，我们可能学习简单的加法，但到六年级，老师会将教学内容升级到代数和几何。在实操中，这意味着我们要在学习过程中为AI提供每个样本单位的学习信息量最多的数据。

此外，就像老师在学习过程中提供丰富的反馈一样，我们必须为AI提供大量监督性的数据：不仅是基本反馈，还要深入分析AI的错误，指出推理过程可以改进的地方，以及如何优化其输出的内容。

最后，在新的学习范式中，我们必须让AI有能力在其尝试处理的任务中发挥主动作用，就像人类一样。在学习开车时，我们不是观看别人的开车视频，然后在路上模仿其动作，而是亲自坐在驾驶座上练习。这种“闭环”的学习过程让AI能够在执行输出结果后获得反馈，并深入了解自身内部的推理过程，从而促进更深层次的理解和更高效的学习。强化学习算法试图实现这一目标，但目前为止，它们的数据需求过大，难以提供可持续的解决方案。

通过专注于开发具备真正理解能力的AI模型、重构学习范式这两个创新领域，我们可以开启AI的全新时代。

我们正处于一个关键时刻。如何规划前行的道路至关重要。我们今天在资源投入和建设方向上的决策将决定未来。为了确保真正的创新并避免意料之外的结果，我们必须将负责任的发展置于首位。

为了我们的世界和子孙后代，现在是时候优先重视效率和创造力，而非依赖当今模型的蛮力扩展了。这是释放AI真正的潜力并确保AI技术惠及全人类的唯一方法。

本文作者：

Raquel Urtasun，Waabi创始人兼首席执行官

本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。

翻译：狄陈静

编辑：王灿