拓扑学如何帮助理解大数据

拓扑学如何帮助理解大数据
本内容由人工智能自动翻译。

大数据受到 媒体、 行业 和 政府的广泛关注。企业和实验室生成海量数据,涉及天气、手机使用情况、医疗记录等方方面面,每组数据都可能包含数百个变量。

这些数据集规模庞大、结构复杂,传统的模式寻找方法很难从中取得进展。数据分析常被誉为灵丹妙药,确实有望攻克一些曾经棘手的问题。但我们必须先弄清楚自己看到的是什么。

回归线可以显示一组人的身高与体重之间的关系。
Jake, CC BY

统计学入门课程总会安排一两讲介绍线性回归——在平面上散布的一组点中,找出最贴合这些点的直线。例如,气候变化相关文章经常会出现这类图表,将气温及其他天气数据与时间进行对照;经济预测也会利用就业或GDP历史数据推算未来。

但如果这些点并非分布在直线附近,而是形成了类似圆的形状呢?

圆上的一组点(左图)以及拟合效果最佳的直线(右图)。
Kevin Knudson, CC BY-NC-ND

显然,回归分析在这种情况下并无用处,但我们之所以知道这一点,只是因为我们可以 看到 这些点构成了一个圆。

现在设想一组点位于高维空间中的一个圆上。在三维空间中,我们或许能看到这个圆;但如果变量更多——分析大型数据集时常会如此——情况就棘手了。我们怎样才能检测出这个圆?更进一步说,怎样才能让计算机找到这个圆?

大数据的发展带来了这类问题,而代数拓扑学提供了一些答案。

如何从空间角度理解大数据

拓扑学有时被称为“橡皮膜几何学”。在拓扑学家看来,球面和立方体是同一种东西。设想一个由柔性材料制成的立方体;把吸管插入其中并吹气,就能将它吹胀成球体。这类操作称为 形变;如果一个物体可以形变为另一个物体,就认为二者相同。

拓扑学家通过为各种空间赋予称为 不变量 的代数对象来研究它们。不变量可以简单到只是一个整数,但通常是更复杂的代数结构。在数据分析中,首选的不变量是 持久同调。

普通同调用于衡量空间中无法填满的“洞”的数量。再来想想球面。如果我们在球面上画一个环路,它会围出一个二维圆盘;也就是说,球面上的任何环路都可以填满,因此不存在二维“洞”。相比之下,球面本身围出了一个无法填满的三维“洞”。

空间的贝蒂数统计各维度上无法填满的洞的数量。球面的第二贝蒂数为1(因为其内部无法填满),第一贝蒂数为0(因为任何环路都围出球面上的一个圆盘)。第零贝蒂数统计空间由多少个部分组成;球面只有一个部分。对于更复杂的空间,也有更高维度的贝蒂数。

将普通同调用于数据分析的问题在于,如果我们计算离散数据点集的同调,结果会令人失望。这个集合没有洞,只有一组彼此不连通的点。第零贝蒂数会统计点的数量;但由于这样的集合中没有环路或球面,更高维度的贝蒂数全都为0。此时,持久同调便派上了用场。

我们需要把离散的点集连接起来。设想在数据集中的每个点周围放一个半径为 r 的小球。如果 r 非常小,这些球就不会相交,整个集合的贝蒂数与离散点集相同。

不过,如果让 r 不断增大,小球最终会开始接触,我们也很可能得到非平凡的高阶贝蒂数。在动画中,当 r 达到某个阈值时,顶部三个点周围的小球两两相交,因此包含连接这三个点的三角形。此外,由于中间有一条小缝,我们无法填满这个三角形;这意味着此时第一贝蒂数为1。但当 r 稍稍增大,三个球就会同时相交,我们便能填满这个三角形;此时第一贝蒂数降为0。

持久同调会跟踪这些数值随半径增大的变化;以参数 r 为横轴绘制这些数值,得到的图称为 条形码。长条表示数据中可能具有重要意义的特征(它们能够 持续存在,因此得名)。短条往往源于数据噪声,可能可以忽略(也可能不行,具体要看情境)。

因此,我们所做的就是将离散点集转化为一系列更复杂的空间(每个 r对应一个空间);希望这些空间能比简单的线性回归更好地模拟数据。

随着小球半径增大,圆在这些空间中持续存在。
Kevin Knudson, CC BY-NC-ND

上面的动画展示了如何用这种方式模拟圆上的若干点。我们省略了点周围的小球:当两个点对应的小球重叠时,就连接这两个点;三个小球相交时,就形成三角形,以此类推。圆持续存在了相当长的时间,因此我们可以推测数据点位于一个圆附近。

理论之外的应用

Gunnar Carlsson 是斯坦福大学的教授,也是拓扑数据分析领域的先驱之一。他的团队早期的一项重要成果,是发现了自然图像空间的拓扑结构。这个数据集包含从黑白数码照片中采样的数百万个3像素×3像素图像块。每个像素用0到255之间的一个数值表示其灰度;每个3×3图像块因此对应于九维空间中的一个点,每个坐标表示相应像素的数值。剔除恒定图像块并进行一些归一化处理后,这个空间位于一个七维球面内。乍看之下,这组点似乎填满了整个球面;但如果只关注点分布更密集的区域,就会显现出结构。

Carlsson及其合作者证明,这些数据实际上位于一个 克莱因瓶上。这是一种嵌入球面中的二维不可定向曲面。他们进一步利用这一发现,开发出一种照片压缩算法,其效果略优于业界标准 JPEG 2000。Carlsson发表了一篇关于这项工作的优秀 综述 。

鉴于这一成果,Carlsson与几位同事共同创立了 AYASDI。这家公司不断拓展客户群,客户来自银行、金融、政府及其他行业。他们运用这些及其他技术分析 糖尿病、 乳腺癌 和 心肺疾病 数据。结果令人鼓舞:借助这些技术,或许能发现传统统计方法无法识别的高存活率患者亚组。

不过,这些方法真正的前景在于有可能为个人量身定制治疗和解决方案。例如,对大型数据集进行分析后,我们会发现,某种药物过去被认为对80%的患者有效,实际上对可通过某种标志识别出的80%患者百分之百有效。拓扑数据分析为推进这类分析提供了另一种工具,常常能识别出此前隐藏的特征。

本文与 The Conversation合作发表。文章发表并不意味着世界经济论坛认同其中观点。

订阅我们的每周通讯,及时了解“议程”最新动态。

作者:Kevin Knudson是佛罗里达大学数学教授。

图片:电源连接器悬挂在服务器机架上。路透社/Mike Segar。

分享:

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。