要战胜深度伪造,我们需要证明什么是真实的。方法如下。

Associate professor of computer science at the University of Southern California Hao Li showcases a 'deepfake' video with Britain's former Prime Minister Theresa May during the 50th World Economic Forum (WEF) annual meeting in Davos, Switzerland, January 22, 2020
Deepfake tech on show at Davos this yearImage: REUTERS/Denis Balibouse
本内容由人工智能自动翻译。
  • 图像篡改技术日益普及,正在侵蚀信任,也削弱人们知情决策的能力。

  • 尽管不可能实时识别并证实造假,我们仍能确定哪些图像是真实的。

  • 现已有软件能够验证图像的来源,下一步将依靠硬件实现。

如今,全球每天拍摄的数字图像超过1.2万亿张,此外还有视频;这一数字每年约增长10%。其中约85%的图像由智能手机拍摄,而全球有超过27亿人持有智能手机。

但随着图像拍摄量增加,图像篡改也日益增多。近年来,视听(AV)篡改的程度和速度令即便经验最丰富的专家也感到惊讶。生成对抗网络(GAN)——即“深度伪造”——的出现占据了大多数新闻头条,因为它们能够彻底摧毁人们对视觉真实性的信心。

即使深度伪造从未在公共领域泛滥,世界仍已被“廉价伪造”所颠覆。这个词指的是更基础的图像篡改方法,例如用 Photoshop 修改图像、转播、加快或放慢视频,以及其他相对简单的手段。廉价伪造已成为虚假信息和网络欺诈蔓延的主要工具,并对企业和社会造成重大影响。

图像篡改日益增多,使人们更难依据图像和视频作出稳妥决策,而企业和个人越来越频繁地依赖这些内容作出决定。这包括个人决定,例如在点对点交易平台购物、在线约会时与人见面或投票;也包括商业决定,例如处理保险索赔或发放贷款。甚至一些对全球至关重要的决定也会受到影响,例如国际社会如何回应展示冲突地区或禁止进入区域内暴行或骇人暴力的图像和视频,等等。

这些截然不同的应用场景都凸显出两种相互矛盾的趋势:我们比以往任何时候都更依赖图像和视频,却也比以往任何时候都更不信任它们。这一重大信任缺口日益扩大,促使各国政府和技术专家投资开发图像检测技术。

遗憾的是,目前没有可持续的方法能够实时、大规模地检测伪造图像。这一令人警醒的事实在短期内很可能不会改变。

原因有好几个。首先,图像在互联网传播过程中,几乎所有元数据都会丢失、被剥除或遭到篡改。等图像进入检测系统时,丢失的元数据已无法恢复,因此图像原始的日期、时间和地点等信息很可能永远无从得知。

其次,几乎所有数字图像在互联网上分享后都会立即被压缩并调整尺寸。有些处理无害(例如重新压缩),另一些则可能改动重大,意在欺骗内容消费者。无论是哪种情况,图像上传和传输时的重新压缩与尺寸调整都会降低照片本身的保真度,因此像素层面的篡改很难检测,甚至根本无法检测。

第三,当一种自动化或基于机器学习的检测技术被发现并普及后,不法分子很快就会找到规避方法,以免被检测出来。

社交媒体让检测更加困难,因为它能在几秒钟内传播内容,无论真假。意图欺骗的人可以立即将虚假内容上传到社交媒体平台。即使成功揭穿谣言,也很可能为时已晚,无法阻止虚假内容传播;认知失调和偏见还会更大程度地影响消费者的决定。

Betazone Davos 2020 | Deepfakes:不要相信你看到的(Hao Li 主讲)
Betazone Davos 2020 | Deepfakes:不要相信你看到的(Hao Li 主讲)
19:13

既然检测行不通,我们该如何为公众、企业和国际社会提供工具,帮助他们作出更好的决定?答案是追溯图像来源。如果世界无法证明什么是假的,就必须证明什么是真的。

如今已有相关技术,例如我所在的 Truepic 公司开发的软件 Controlled Capture,既能确立图像来源,也能在拍摄时验证关键元数据。这得益于智能手机技术、蜂窝网络、计算机视觉和区块链的进步。然而,要在全球范围内真正恢复人们对图像的信任,经过验证的图像必须从软件扩展到硬件。

要实现这一宏大目标,图像真实性技术必须嵌入为智能手机提供动力的芯片组中。Truepic 正与全球最大的智能手机芯片组制造商 Qualcomm Technologies 合作,展示这一方案的可行性。集成完成后,智能手机制造商便可在每部手机的原生相机应用中加入“已验证”模式,从而让数亿用户用上图像验证技术。最终,图像将带有经加密签名的已验证来源信息,帮助决策者在个人、商业或全球层面作出明智选择。这将是虚假信息和深度伪造时代决策方式的未来。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。