新技术如何实现实时3D全息图

Visitors hold their phones in front of a hologram showing a porcelain teacup that is projected inside a glass cabinet during the World Conference on VR Industry in Nanchang, Jiangxi province, China October 20, 2019. Picture taken October 20, 2019. REUTERS/Stringer
Holograms deliver an exceptional representation of 3D world around us.Image: REUTERS/Stringer
本内容由人工智能自动翻译。
  • 一种名为张量全息术的新方法,可实现用于虚拟现实、3D打印、医学成像等领域的实时全息图生成。

  • 该技术还可以在智能手机上运行。

  • 据预测,该技术可使商用全息图触手可及。

尽管炒作已持续多年,虚拟现实头显仍未能取代电视或电脑屏幕,成为观看视频的首选设备。原因之一是:虚拟现实可能让用户“感到不适。由于虚拟现实营造出3D观看的错觉,而用户实际上是在盯着固定距离的2D显示屏,因此可能引发恶心和眼睛疲劳。要实现更好的3D可视化,解决方案或许在于一项已有60年历史、经数字化改造的技术:全息图。

全息图能够精确呈现我们周围的3D世界。此外,它们还十分精美。全息图会根据观看者的位置呈现变化的视角,并使人眼能够调节焦距,在前景与背景之间交替对焦。

研究人员长期以来一直致力于制作计算机生成的全息图,但该过程传统上需要超级计算机运行大量物理模拟,既耗时,其结果有时也达不到照片级的逼真效果。如今,麻省理工学院的研究人员开发出一种新方法,几乎可以瞬间生成全息图。研究人员表示,这种基于深度学习的方法效率极高,甚至可以在笔记本电脑上眨眼之间完成运算。

“此前人们认为,仅凭现有的消费级硬件,实时3D全息计算是不可能实现的,”该研究的第一作者、麻省理工学院电气工程与计算机科学系(EECS)博士生石亮(Liang Shi)说道。“人们常说,商用全息显示器将在10年内问世,但这一说法已经流传了几十年。”

石亮认为,该团队称为“张量全息术”的新方法,最终将使这一难以实现的10年目标触手可及。这一进展有望推动全息技术向虚拟现实和3D打印等领域延伸。

石亮参与的这项研究今日发表于《自然》,与他的导师兼合著者维奇克·马图西克(Wojciech Matusik)共同完成。其他合著者包括EECS及麻省理工学院计算机科学与人工智能实验室的李贝辰(Beichen Li),以及麻省理工学院的前研究人员金昌一(Changil Kim,现任职于Facebook)和彼得·凯尔恩霍弗(Petr Kellnhofer,现任职于斯坦福大学)。

追求更优质的3D效果

传统基于镜头的照片记录的是每束光波的亮度——照片能够忠实还原场景的色彩,但最终呈现的只是一幅平面图像。

与之相比,全息图同时记录每束光波的亮度和相位。这种组合能够更真实地呈现场景的视差与深度。因此,莫奈的《睡莲》照片可以突出画作的色彩搭配,而全息图则能让作品栩栩如生,呈现每一笔画触的独特3D质感。然而,尽管全息图极为逼真,其制作和分享却颇具挑战。

早期全息图诞生于20世纪中期,当时采用光学方式记录。这需要将激光束一分为二:一半用于照亮被摄物体,另一半则作为光波相位的参考。这一参考光束赋予了全息图独特的纵深感。然而,所得图像是静态的,无法记录运动。而且它们只能是实体拷贝,难以复制和分享。

计算机生成全息术通过模拟光学装置绕开了这些难题。但其计算过程可能十分繁重。“由于场景中的每个点深度各不相同,你无法对所有点应用相同的运算,”石亮说道。“这使复杂性大幅增加。”若要生成单幅全息图,调动集群超级计算机运行这些基于物理的模拟可能需要数秒甚至数分钟。此外,现有算法在建模遮挡时无法达到照片级的精确度。因此,石亮团队采取了另一种思路:让计算机自己学习物理规律。

他们利用深度学习加速计算机生成全息术,从而实现实时全息图生成。团队设计了一种卷积神经网络——这是一种处理技术,通过一系列可训练的张量,大致模拟人类处理视觉信息的方式。训练神经网络通常需要庞大且高质量的数据集,而此前并不存在针对3D全息图的此类数据集。

团队构建了一个包含4000对计算机生成图像的定制数据库。每一对图像均将一幅图片(包括每个像素的颜色和深度信息)与其对应的全息图相匹配。为生成新数据库中的全息图,研究人员使用了形状和颜色复杂多变的场景,像素深度从背景到前景均匀分布,并采用了一套全新的基于物理的计算方法来处理遮挡问题。这一方法生成了照片级逼真的训练数据。接下来,算法开始工作。

通过学习每一对图像,张量网络不断调整自身运算的参数,逐步增强其生成全息图的能力。经过充分优化的网络,其运算速度比基于物理的计算快出几个数量级。这一效率连研究团队自己也感到惊讶。

“我们对它的表现之好感到惊叹,”马图西克说道。张量全息术可在数毫秒内,从带有深度信息的图像生成全息图。这些深度信息可由典型的计算机生成图像提供,也可通过多摄像头装置或激光雷达(LiDAR)传感器计算得出,而这两种设备在部分新款智能手机上已成为标准配置。这一进展为实时3D全息术铺平了道路。更值得一提的是,这一紧凑型张量网络所需内存不足1 MB。“考虑到最新手机拥有数十乃至数百GB的存储空间,这点内存几乎可以忽略不计,”他说道。

该研究“表明,真正的3D全息显示器在计算需求适度的情况下即可实现”,微软首席光学架构师乔尔·科林(Joel Kollin)说道,他并未参与该研究。他补充道,“这篇论文显示,其图像质量较以往的研究有显著提升”,这将“为观看者带来更强的真实感和舒适感”。科林还暗示,此类全息显示器甚至可以根据观看者的眼镜处方进行定制。“全息显示器能够校正人眼的像差。这使得显示图像比用户通过隐形眼镜或眼镜所能看到的更加清晰,因为后者只能校正聚焦和散光等低阶像差。”

“一次重大飞跃”

实时3D全息术将提升从虚拟现实到3D打印等一系列系统的性能。研究团队表示,新系统有助于让虚拟现实用户沉浸于更逼真的场景之中,同时消除长期使用虚拟现实所带来的眼睛疲劳及其他副作用。该技术可以轻松部署在能够调制光波相位的显示器上。目前,大多数价格亲民的消费级显示器仅能调制亮度,不过如果得到广泛采用,相位调制显示器的成本将会下降。

研究人员表示,三维全息术还可能推动体积式3D打印的发展。这项技术的速度和精度可能超越传统的逐层3D打印,因为体积式3D打印能够同时投射整个3D图案。其他应用还包括显微镜技术、医学数据可视化,以及具有独特光学特性的表面设计。

“这是一次重大飞跃,有望彻底改变人们对全息术的看法,”马图西克说道。“我们感觉神经网络就是为这项任务而生的。”

该项研究部分得到了索尼的资助。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。