一段新的深度伪造视频显示，Facebook创始人马克·扎克伯格说出了他从未说过的话。
该视频发布于Instagram，由艺术家Bill Posters和Daniel Howe与广告公司Canny合作制作，基于扎克伯格2017年的一段真实视频。为制作这段深度伪造视频，Canny使用2017年视频中的一段21秒片段，以及一名配音演员朗读脚本的视频，训练了一套专有算法。从视觉上看，效果颇为逼真，尽管声音听起来并不完全像扎克伯格。
“请想象一下：一个人完全掌控着数十亿人被窃取的数据、他们所有的秘密、他们的生活和未来，”视频中扎克伯格的形象说道，视频说明中包含“#deepfake”。“我把一切都归功于Spectre。Spectre让我明白，谁掌控数据，谁就掌控未来。”
（Spectre是一件获奖的互动艺术装置，曾于2019年在英国谢菲尔德纪录片节上展出。）
这段视频有效地检验了Facebook关于清除平台上错误信息的政策。Facebook近期因拒绝删除一段被放慢速度、使众议院议长南希·佩洛西看起来像是醉酒的视频而遭到批评。Facebook表示，它已降低该视频的推荐排名，使其在新闻推送中出现的频率降低，并将其标记为虚假内容。
Instagram由Facebook拥有，该公司表示，将对扎克伯格深度伪造视频采取与佩洛西视频相同的处理方式。Instagram发言人Stephanie Otway告诉《纽约时报》：“如果第三方事实核查机构将其标记为虚假内容，我们将把它从Instagram的推荐页面（如“探索”页面和话题标签页面）中过滤掉。”纽约时报。
制作扎克伯格深度伪造视频的团队，还曾制作过金·卡戴珊的一段深度伪造视频。
深度伪造技术已存在多年，但近来其逼真程度已足以欺骗一些毫无戒心的观众。今年5月，三星研究人员发布了一段视频，介绍一种新的人工智能，它能够将单张人脸图像进行令人信服的动画化处理。如果您担心有人将这项技术用作武器，您并不孤单：美国国防部已在开发能够自动检测深度伪造内容的工具。但这些工具可能永远无法做到完全有效。
“从理论上讲，如果你把所有我们已知的检测技术交给[构建深度伪造技术的生成对抗网络]，它就可以通过所有这些检测技术，”美国国防部项目负责人、DARPA项目经理David Gunning对说道，《麻省理工科技评论》。“我们不知道是否存在极限。目前尚不清楚。”
即使我们能够检测深度伪造内容，一些观众也未必乐于分辨真假，尤其是在政治领域。例如，美国总统唐纳德·特朗普近期在推特上发布了一段被篡改的视频，该视频将众议院议长南希·佩洛西放慢速度，使其看起来像是醉酒。尽管有报道证实该视频已被篡改，该视频仍留在总统的推特账户上，目前观看次数已超过600万次。目前尚不清楚有多少人知道——或愿意承认——这是虚假内容。
