新内存管理方式如何改变计算机芯片技术

新内存管理方式如何改变计算机芯片技术
本内容由人工智能自动翻译。

在现代多核芯片中,每个内核(或处理器)都有自己的小型内存缓存,用于存储频繁使用的数据。但芯片还配有一个更大的共享缓存,所有内核都可以访问。

如果某个内核尝试更新共享缓存中的数据,正在处理同一数据的其他内核就需要获知这一变化。因此,共享缓存会保存一份目录,记录哪些内核持有哪些数据的副本。

该目录会占用相当大的内存空间:在一款64核芯片中,它可能占到共享缓存的12%。而且这一比例会随内核数量增加而上升。设想中的128核、256核甚至1000核芯片,将需要一种更高效的缓存一致性维护方式。

在十月举办的国际并行体系结构与编译技术会议上,麻省理工学院的研究人员公布了三十多年来首个根本性的全新缓存一致性方法。现有技术中,目录所占用的内存与内核数量成正比增长;而采用新方法后,其内存占用则按内核数量的对数增长。

在一款128核芯片中,这意味着新技术所需的内存仅为其前代技术的三分之一。英特尔即将推出一款72核高性能芯片,这一优势已不只是假设。而在256核芯片中,节省的空间升至80%;在1000核芯片中,则达到96%。

当多个内核仅读取同一位置存储的数据时,不会产生问题。只有当其中一个内核需要更新共享数据时,才会出现冲突。在目录系统中,芯片会查询哪些内核正在处理该数据,并向它们发送消息,使其本地存储的副本失效。

“目录可以保证,写操作发生时,不存在过时的数据副本,”麻省理工学院电气工程与计算机科学专业研究生、这篇新论文的第一作者Xiangyao Yu说。“写操作发生之后,就不应再出现对先前版本的读取。因此,按照物理时间顺序,这次写操作排在所有先前读取操作之后。”

时间旅行

Yu及其论文导师Srini Devadas(麻省理工学院电气工程与计算机科学系Edwin Sibley Webster教授)所意识到的是:只要逻辑时间顺序得以保持,分布式计算的物理时间顺序其实并不重要。也就是说,内核A可以继续处理内核B之后已覆写的数据,前提是系统的其余部分将内核A的工作视为先于内核B的工作。

Yu和Devadas这一方法的巧妙之处在于,找到了一种简单高效的手段来实现全局逻辑时间顺序。“我们做的就是为每个操作分配时间戳,并确保所有操作都遵循该时间戳顺序,”Yu说。

在Yu和Devadas的系统中,每个内核都有自己的计数器,内存中的每个数据项也有一个相关联的计数器。程序启动时,所有计数器都被设为零。当内核读取某项数据时,它会获取该数据的“租约”,也就是将数据项的计数器递增,例如增至10。只要该内核的内部计数器不超过10,其数据副本就是有效的。(具体数值并不重要,重要的是它们之间的相对大小。)

然而,当某个内核需要覆写数据时,它会获得该数据的“所有权”。其他内核可以继续处理其本地存储的数据副本,但若想延长租约,就必须与该数据项的所有者协调。执行写操作的内核会将其内部计数器递增至一个高于数据项计数器最后数值的值。

例如,假设内核A至D都读取了同一数据,将其内部计数器设为1,并将数据计数器递增至10。内核E需要覆写该数据,因此获得其所有权,并将其内部计数器设为11。此时,它的内部计数器表明其运行于比其他内核更靠后的逻辑时间:其他内核仍停留在1,而它已领先至11。正是这种向前跃进时间的理念为该系统命名——Tardis,取自英国科幻英雄“Dr. Who”中穿越时空的飞船。

现在,如果内核A尝试重新获取该数据的租约,它会发现数据归内核E所有,于是向内核E发送消息。内核E将数据写回共享缓存,内核A随后读取该数据,并将其内部计数器递增至11或更高。

尚未挖掘的潜力

除了节省内存空间外,Tardis还无需向共享某一数据项的所有内核广播失效消息。Yu表示,在大规模多核芯片中,这还可能带来性能提升。“在这些实验中,我们并未看到由此带来的性能提升,”Yu说,“但这可能取决于基准测试程序”——即Yu和Devadas用来测试Tardis的业界标准程序。“这些程序经过高度优化,所以也许它们已经消除了这一瓶颈,”Yu说。

“有其他人研究过这类租约思路,”英特尔实验室首席工程师Christopher Hughes说,“但据我所知,他们往往采用物理时间。你会把一个租约交给某人,并说:‘好的,你可以使用这份数据,比如说100个周期,我保证在这段时间内没有其他人会去触碰它。’但这样一来,你就在某种程度上限制了自身性能,因为如果紧接着有其他人想要更改数据,他们就必须等待100个周期才能进行操作。而在这里,没问题,你只需推进时钟即可。据我所知,这是以前从未有人做过的事情。这才是真正精妙的关键思路。”

然而,Hughes表示,芯片设计人员天性保守。“几乎所有批量生产的商用系统都基于目录式协议,”他说,“我们不会轻易改动它们,因为在修改实现时很容易出错。”

但他补充说:“他们这一方案的部分优势在于,在概念上比当前的[基于目录的]方案略为简单。这些人还做了另一件事:他们不仅提出了这一思路,还发表了一篇单独的论文,实际证明了其正确性。这对该领域的人来说非常重要。”

本文与 MIT News合作发布,不代表世界经济论坛认同文中观点。

如需了解议程最新动态, 请订阅我们的每周通讯。

作者:Larry Hardesty,为MIT News特约撰稿人。

图片:2007年1月9日,一片12英寸晶圆在台湾Xinchu的台积电(TSMC)展示。REUTERS/Richard Chung

分享至:

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。