大脑中的噪声有助于我们更好地思考——它也可能革新计算与气候建模

Just as a climate model with noise can produce types of weather that a model without noise can’t, so a brain with noise can produce ideas that a brain without noise can’t.
Just as a climate model with noise can produce types of weather that a model without noise can’t, so a brain with noise can produce ideas that a brain without noise can’t.Image: Unsplash/Robina Weermeijer
本内容由人工智能自动翻译。
  • 一位牛津大学的研究教授解释说,通过向气候模型中加入随机数,即“噪声”,我们实际上可以使其在天气预测方面更加准确。

  • 大约20年前,噪声被引入综合天气与气候模型,因为它有助于减少这些模型固有的一些偏差。

  • 气候建模需要计算机消耗大量能源和处理能力,但他表示,引入噪声后,其精确度可能得到提升,计算成本也可能降低。

我们都不得不时不时做出艰难的决定。我一生中最艰难的决定,是博士毕业后是否转换研究领域,从基础物理学转向气候物理学。我收到的工作邀请可以让我朝两个方向发展——一个是加入史蒂芬·霍金的相对论与引力研究组(位于剑桥大学),另一份是加入英国气象局,担任科学公务员。

我像人们应该做的那样写下了两种选择的利弊,但之后却完全无法拿定主意。就像布里丹之驴,我既无法走向那捆干草,也无法走向那桶水。这是典型的因分析而瘫痪。

由于这件事让我心烦意乱,我决定暂时忘掉这个问题,过几周再说,继续我的生活。在这段间歇期间,我的潜意识大脑替我做出了决定。有一天,我径直走进办公室,答案不知怎么就变得显而易见了:我要转而研究天气与气候。

四十多年后,我仍会做出同样的决定。我充实的职业生涯包括开发了一种新的概率性天气与气候预报方法,正帮助人道主义和救灾机构在极端天气事件来临之前做出更好的决策。(这一点以及其他诸多方面,均在我的新书《怀疑的首要性》中有所描述。)

但我仍然对当时我头脑中发生的事情深感着迷——正是它促使我的潜意识做出了一个改变人生的决定,而我的意识却无法做到。这里是否有某些东西值得理解——不仅关于如何做出艰难的决定,也关于人类如何产生那些使我们成为如此富有创造力的物种的想象飞跃?我相信,这两个问题的答案都在于更好地理解噪声那非凡的力量。

不精确的超级计算机

我从爱因斯坦广义相对论的纸笔数学,转向在世界上最大的一些超级计算机上运行复杂的气候模型。然而,这些计算机尽管已经非常庞大,却始终不够大——毕竟,真实的气候系统极其复杂。

在我研究的早期,人们只需等待几年,顶级超级计算机的性能就会翻一番。那正是晶体管不断缩小、使每块微芯片上能容纳更多晶体管的时代。由此带来的在相同功耗下计算机性能每隔几年便翻一番的现象,被称为摩尔定律。

然而,晶体管的微型化只能进行到一定程度,超过这一程度,晶体管在其作为开关的关键作用中就会变得不可靠。如今,随着晶体管开始接近原子尺寸,我们基本上已经触及摩尔定律的极限。为了获得更强的运算能力,计算机制造商必须把越来越多、每个都塞满芯片的计算机柜拼装在一起。

但问题在于,以这种方式提升运算能力需要多得多的电力——如网球场大小的现代超级计算机耗电达数十兆瓦。我觉得,为了准确预测气候变化的影响而需要如此巨大的能源,这多少有些令人尴尬。

这正是我开始关注如何构建一个更精确的气候模型,而不增加能耗。而这一切的核心,是一个听起来有违直觉的想法:通过向气候模型中加入随机数,即“噪声”,我们实际上能够使其在预测天气方面更加精确。

噪声的建设性作用

噪声通常被视为一种麻烦,应尽可能将其减到最少。在电信领域,我们努力通过增强信号或尽可能降低背景噪声来最大化“信噪比”。然而,在非线性系统中,噪声可以成为你的助力,实际上有助于增强信号。(一个非线性系统是指其输出并不与输入成正比变化。你在彩票中赢得1亿英镑可能会非常高兴,但赢得2亿英镑时未必会高兴两倍。)

例如,噪声可以帮助我们找到复杂曲线的最大值,如下图图1所示。在物理、生物和社会科学以及工程领域中,许多情况下都需要找到这样的最大值。在我所在的气象学领域,为全球天气预报寻找最佳初始条件,需要确定一个非常复杂的气象函数。

图1

一条具有多个局部峰值和谷值的曲线。Image: 蒂姆·帕尔默

然而,采用“确定性算法”来定位全局最大值通常行不通。这类算法通常会卡在局部峰值处(例如a点),因为从该处出发,曲线在两个方向上都向下延伸。

一种解决办法是使用一种称为“模拟退火”——之所以如此命名,是因为它与(退火)相似,即一种改变金属性质的热处理工艺。模拟退火利用噪声来规避陷入局部峰值的问题,已被用于解决许多问题,包括经典的旅行商问题,即寻找地图上大量城市之间的最短路径。

图1展示了利用以下标准找到该曲线全局最大值(第9点)的一条可能路径:

  • 若随机选取的点高于曲线上的当前位置,则始终移动到该新点。

  • 若其低于当前位置,建议的点并非一定会被拒绝,这取决于新点是远低于还是仅略低于当前位置。

然而,是否移动到新点还取决于分析已运行的时间。在早期阶段,可能会接受比当前位置低得多的随机点;而在后期阶段,只接受更高或仅略低一点点的点。

这一技术之所以被称为模拟退火,是因为在早期阶段——如同冷却初期的热金属——系统是可塑的、易变的。在过程后期——如同冷却后期的冷金属——它几乎是刚性的、不可改变的。

噪声如何帮助气候模型

噪声被引入综合天气与气候模型中,大约在20年前。其关键原因在于为集合天气预报表示模式的不确定性——但事实证明,加入噪声还减少了模式原有的一些偏差,使其成为更准确的天气与气候模拟工具。

遗憾的是,这些模式需要庞大的超级计算机和大量能源来运行。它们将世界划分为小的网格盒,每个网格盒内的大气和海洋被假定为恒定的——当然,实际并非如此。典型网格盒的水平尺度约为100公里,因此提高模式精度的一种方法是将这一距离缩减至50公里、10公里或1公里。然而,网格盒体积减半会使运行模式的计算成本最多增加16倍,这意味着其能耗会大幅增加。

在此,噪声再次提供了一个颇具吸引力的替代方案。其设想是利用噪声来表示湍流、云系统、海洋涡旋等小尺度气候过程中不可预测(且无法建模)的变化。我认为,加入噪声可以作为提高精度的一种途径,而无需承担缩小网格盒所带来的巨大计算成本。例如,正如现已得到验证的那样,向气候模型中加入噪声会增加产生极端飓风的可能性——这反映了一个因气候变化而日趋极端的天气世界的潜在现实。

我们用于这类建模的计算机硬件本质上是有噪声的——由于其所处的温暖环境,计算机导线中的电子会以部分随机的方式运动。这种随机性被称为“热噪声”。与其依靠软件生成伪随机数,我们能否通过利用它来节省更多能源?在我看来,低能耗的“不精确”超级计算机这类本质上有噪声的机器,看起来是一个双赢的设想。

但并非所有同事都信服。他们对计算机可能无法每天给出相同答案感到不安。为了说服他们,我开始思考其他真实世界中的系统——由于能源有限,这些系统同样使用其硬件内部产生的噪声。于是我偶然发现了人类大脑。

大脑中的噪声

清醒时的每一秒,仅我们的双眼就会向大脑发送数GB的数据。这与气候模型每次向内存输出数据时产生的数据量相差无几。

大脑必须处理这些数据,并以某种方式理解其含义。如果它用超级计算机的算力来完成这一任务,这就已经足够令人印象深刻。但它只用了该功率的百万分之一,即约20瓦而非20兆瓦——相当于点亮一只灯泡所需的功率。这种能效令人难以置信地惊人。大脑究竟是如何做到的?

成年人的大脑包含约800亿个神经元。每个神经元都有一根细长的生物“电缆”——轴突——电脉冲沿着它从一组神经元传递到下一组。但这些共同描述大脑中信息的脉冲,必须由沿轴突等距排列的蛋白质“晶体管”加以增强。没有它们,信号就会衰减并丢失。

显微镜下的大脑神经元与轴突。Image: Shutterstock

这些增强所需的能量最终来自血液中一种称为ATP(三磷酸腺苷)的有机化合物。它使带电的钠原子和钾原子(即离子)得以通过神经元壁上的小通道被推动,从而产生电压。这与硅晶体管中的电压非常相似,在电信号沿轴突传播时将其放大。

由于20瓦的功率分散在数百亿个神经元之中,所涉及的电压非常微小,轴突电缆也是如此。有证据表明,直径小于约1微米的轴突(大脑中的大多数轴突都属于此类)是易受噪声影响的。换言之,大脑是一个有噪声的系统。

如果这种噪声只是产生了无益的“脑雾”,人们可能会疑惑,为什么我们的头部进化出了如此多的细长轴突?的确,较粗的轴突也有好处:信号沿其传播得更快。如果我们仍然需要快速反应来躲避捕食者,那么细长的轴突将是不利的。然而,发展出集体方式来抵御敌人,可能减少了对快速反应的需求,从而导致轴突向更细方向演化的趋势。

或许是偶然地,进化突变进一步增加了神经元数量并减小了轴突尺寸,同时保持总体能耗不变,使大脑的神经元更易受噪声影响。越来越多的证据表明,这还产生了另一个显著的效果:它促进了人类解决需要想象力飞跃和创造力的问题的能力。

或许只有当大脑中开始出现显著的噪声时,我们人类才真正成为了智人?

让大脑噪声发挥积极作用

许多动物已发展出富有创造性的问题解决方法,但在动物世界中,没有任何一种可以与莎士比亚、巴赫或爱因斯坦相媲美。

创造性天才们是如何产生想法的?以下是引自安德鲁·怀尔斯,当今在世的或许是最著名的数学家,讲述了他在完成那一著名证明之前那段时期的感受,即那个被(误导性地)称为费马大定理的数学难题:

当你遇到真正的僵局时,常规的数学思维便毫无用处。在获得这类新想法之前,必须经历一段长时间的、全神贯注于问题、不受任何干扰的时期。你必须真正地只思考那个问题——专注于它。然后你停下来。[在这一点上]似乎会出现一段放松期,在此期间潜意识似乎接管了一切——正是在这段时间里,某些新的洞见出现了。

BBC的《地平线》节目剖析了安德鲁·怀尔斯解决费马定理的新颖方法。

这一观点似乎具有普遍性。诺贝尔物理学奖得主罗杰·彭罗斯曾谈到他在与同事穿过繁忙街道时的“尤里卡时刻”(或许是在思考两人的谈话,同时留意迎面而来的车辆)。对于混沌理论之父亨利·庞加莱而言,那是在赶公交车的时候。

而且,这不仅限于数学与物理学中的创造力。《蒙提·派森》的喜剧演员约翰·克利斯也就艺术创造力提出了大致相同的观点——它并非出现在你专注于自己本行之时,而是出现在你放松下来、让潜意识漫游之时。

当然,并非所有从潜意识中冒出的想法都会是“尤里卡时刻”。物理学家迈克尔·贝里谈到这些潜意识中的想法,仿佛它们是一种名为“clariton”(顿悟子)的基本粒子:

实际上,我确实对粒子物理学有所贡献……:即突然理解的基本粒子——“clariton”(顿悟子)。任何科学家都会认出这种粒子诞生时的“啊哈!”时刻。但问题在于:如今的顿悟子往往会被明天的“anticlariton”(反顿悟子)湮灭。因此,我们的许多涂写都消失在反顿悟子的瓦砾之下。

这一点我们都能感同身受:在冷静的白天,我们大多数“绝妙”的潜意识想法都会被逻辑思维湮灭。经过这一过程,仅有极其非常非常少的顿悟子会留存下来。但留存下来的那些,很可能是珍宝。

在他那部著名的著作《思考,快与慢》中,诺贝尔奖得主、心理学家丹尼尔·卡尼曼以二元方式描述了大脑。大多数时候,当我们行走、交谈和环顾四周(换言之,即同时处理多项任务)时,大脑运行在卡尼曼所称的“系统1”模式下——一种相当快速、自动、不费力的运行模式。

相反,当我们努力思考某个具体问题(即单一任务处理)时,大脑则处于较慢、更审慎且更具逻辑性的“系统2”。要进行像37x13这样的计算,我们必须停止行走、停止说话、闭上眼睛,甚至用手捂住耳朵。在系统2中,几乎没有同时处理多项任务的机会。

我的2015年的论文与计算神经科学家迈克尔·奥谢合著,将系统1解释为一种可用能量分散于大量活跃神经元之中的模式,而将系统2解释为能量集中于较少数量活跃神经元之中的模式。因此,在系统1模式下,每个活跃神经元所获得的能量要少得多,而且大脑在此状态下更易受噪声影响似乎是合理的。也就是说,在我们同时处理多项任务的情况下,任何一个神经元的运行都最容易受到大脑中噪声的影响。

贝里关于顿悟子与反顿悟子相互作用的图景,似乎暗示了一种大脑模型:有噪声的系统1与确定性的系统2协同运作。反顿悟子是我们在系统2中进行的逻辑分析,它在大多数时候促使我们拒绝自己那些荒诞的系统1想法。

但有时,其中一个想法结果并没有那么荒诞。

这让人联想到我们的模拟退火分析(图1)的工作方式。起初,我们可能会觉得许多“荒诞”的想法很有吸引力。但随着我们越来越接近最优解,接受新建议的标准变得越来越严格、越来越有辨别力。此时,系统2的反顿悟子几乎湮灭了系统1顿悟子所抛出的一切——但并非全部,正如怀尔斯后来大大松了口气时所发现的那样。

创造力的关键

如果创造力的关键在于有噪声的思维与确定性思维之间的协同作用,那么这会带来哪些后果?

一方面,如果你没有必要的背景知识,你的分析能力便会枯竭。这就是为什么怀尔斯说,在获得洞见的时刻到来之前,你必须让自己沉浸于你的研究主题之中。除非你首先对量子物理有相当扎实的把握,否则你不可能产生足以彻底革新量子物理的绝妙想法。

但你每天也需要留出足够的时间,什么都不做,放松下来,让思绪漫游。我告诉我的研究生,如果他们想在职业生涯中取得成功,就不应该把清醒的每一个小时都花在笔记本电脑或台式机前。而改用社交媒体,恐怕也于事无补,因为你仍然并非真正在同时处理多项任务——你在使用社交媒体的每一刻,注意力仍然集中在某个具体问题上。

但去散步、骑自行车或粉刷棚屋,或许确实有帮助。就我个人而言,我发现开车是一种有助于产生新想法和新思路的有益活动——前提是你不打开收音机。

在做出艰难决定时,这提示我们,在列出所有利弊之后,最好不要主动去思考这个问题一段时间。我认为这解释了几年前我最终决定改变研究方向的过程——尽管我当时并不知道。

由于大脑的系统1极其节能,我们用它来做出日常生活中绝大多数的决定(有人说多达35,000个)——其中大部分并不那么重要,例如走向商店时是否继续迈出一条腿接着另一条腿。(我也可以选择每走一步就停下来,环顾四周,确保没有掠食者会突然跳出来袭击我,然后以此为依据决定是否迈出下一步。)

向气候模型中加入噪声,并不会自动使其成为一个智能的气候模型。Image: Blodstrupmoen/Shutterstock

然而,这种系统1思维有时会让我们做出糟糕的决定,因为我们只是默认采用了这种低能耗模式,而在应该启用系统2的时候却没有启用。我们有多少次在事后反思时会对自己说:“我当时为什么没有认真考虑某某决定?”

当然,如果我们在每一个需要做出的决定上都启用系统2,那么我们就没有足够的时间或精力去完成日常生活中所有其他重要的事情(因此,等我们走到商店时,商店可能已经关门了)。

从这个角度看,我们不应将对无关紧要的问题给出错误答案视为非理性的证据。卡尼曼援引了这样一个事实作为我们非理性的证据:麻省理工学院、哈佛大学和普林斯顿大学超过50%的学生,给出了这道简单题的错误答案——一只球棒和一个球共花费1.10美元;球棒比球贵1美元;球值多少钱?正确答案,如果你仔细想想,是是5美分。但系统1大声喊出十美分。

如果我们在性命攸关的情况下被问到这个问题,人们会希望我们花足够的思考得出正确答案。但如果我们是在课后匿名测验中被问到这个问题,而那时我们本有更重要的事情需要花费时间和精力去做,那么我倾向于认为给出正确答案是不理性的。

如果我们有20兆瓦来驱动大脑,我们可以把其中一部分用来解决无关紧要的问题。但我们只有20瓦,需要谨慎使用。也许真正聪明的,恰恰是那50%给出错误答案的麻省理工学院、哈佛大学和普林斯顿大学的学生。

正如带有噪声的气候模式能够产生无噪声模式所无法产生的天气类型,带有噪声的大脑也能够产生无噪声大脑所无法产生的想法。而正如这些天气类型可能是异常猛烈的飓风,这个想法最终也可能为你赢得诺贝尔奖。

因此,如果你想提高取得非凡成就的机会,我建议你去乡间散步,仰望云朵,聆听鸟儿的鸣叫,并思考晚餐可能吃些什么。

那么,计算机能够具有创造力吗?

未来的某一天,计算机会像莎士比亚、巴赫或爱因斯坦一样富有创造力吗?它们会像我们一样理解周围的世界吗?斯蒂芬·霍金 曾著名地警告说人工智能最终将接管并取代人类。

然而,坚持认为计算机永远无法像我们一样理解世界的最知名倡导者,是霍金的老同事罗杰·彭罗斯。在提出这一论断时,彭罗斯援引了数学中一个重要的“元”定理,即哥德尔定理,该定理指出存在一些数学真理,无法通过确定性算法加以证明。

有一种简单的方式可以说明哥德尔定理。假设我们列出自古希腊时代以来被证明的所有最重要的数学定理。名单上排在首位的将是欧几里得的证明,即素数有无穷多个,这一证明需要一个真正富有创造性的步骤(将假定有限个数的素数相乘,再加一)。数学家会称之为一个“技巧”——即一种巧妙而简洁的数学构造的简称。

但这一技巧是否也能用于证明名单更靠后的重要定理,比如毕达哥拉斯的证明,即二的平方根不能表示为两个整数之比?显然不能;对于该定理,我们需要另一种技巧。事实上,随着你往下看,你会发现证明每个新定理通常都需要一种新的技巧。数学家证明其定理所需的技巧似乎永无止境。仅仅在计算机上加载一组给定的技巧,不一定能使计算机具有创造力。

这是否意味着数学家可以松一口气,因为他们的工作不会被计算机取代?恐怕未必。

我一直主张,我们需要的是有噪声的计算机,而非完全确定性的计算机,即“比特可重现”机器。噪声,尤其是来自量子力学过程的噪声,将打破哥德尔定理的假设:有噪声的计算机并非通常意义上的算法机器。

这是否意味着有噪声的计算机能够具有创造力?通用计算机的先驱艾伦·图灵认为这是可能的,并提出“如果机器被期望绝不出错,那么它就不可能同时是智能的”。也就是说,如果我们希望机器具有智能,那么它最好能够犯错。

也有人可能会说,没有证据表明仅仅添加噪声就能把一台原本愚笨的机器变成智能机器——就目前而言,我同意这一看法。给气候模式添加噪声并不会自动使其成为智能气候模式。

然而,噪声与确定性之间的协同互动——那种能够从随机想法中筛选出有价值成果的互动方式——在计算机代码中几乎尚未得到发展。或许我们可以开发一种新型人工智能模型,通过让人工智能使用clariton-anticlariton模型求解简单的数学定理来进行训练;即做出猜测,并检验其中是否有任何一个具有价值。

要使这一设想切实可行,人工智能系统需要经过训练,专注于“受过教育的随机猜测”。(如果机器的猜测全都是未受过教育的猜测,那么取得进展将耗费极长时间——就像等待一群猴子敲出《哈姆雷特》的前几行。)

例如,在欧几里得关于素数有无限多个的证明这一背景下,我们能否以这样的方式训练人工智能系统:使“将假定有限个数的素数相乘再加一”这样的随机想法,变得远比“将假定有限个数的素数相加再减六”这一完全无用的随机想法更有可能出现?而且,如果某个特定猜测被证明特别有帮助,我们能否训练人工智能系统,使下一个猜测成为对上一个猜测的改进?

如果我们能以某种方式找到实现这一目标的途径,它或许能将建模提升到全新的水平,并与所有研究领域相关。如此一来,我们或许最终还能抵达所谓的“奇点”——即机器接管人类的时刻。但前提是,人工智能开发者必须充分接纳噪声的建设性作用,正如大脑在数千年前所做的那样。

眼下,我觉得需要再去乡间散一次步。把一些陈旧的蛛网吹走——同时,或许也为一些令人兴奋的新想法播下种子。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。