《纽约时报》问道，深度伪造技术会摧毁民主吗？《纽约时报》我们中的一些人才刚开始熟悉这些术语，另一些人则认为，一两年内我们就会进入这个崭新的后真相世界。美国一群立法者对这一新兴技术趋势表示担忧，并致信国家情报总监，发出如下警告：信函致国家情报总监，发出如下警告：
“超逼真的数字伪造利用先进的机器学习技术，生成令人信服的画面，呈现个人做出或说出他们从未做过或说过的事，而本人对此并不知情，也未予同意。深度伪造技术模糊了事实与虚构的界限，可能削弱公众对录制图像和视频能够客观呈现现实的信任。”
目前，大多数伪造内容仍能用肉眼识别。但和所有数字技术一样，其进步呈指数级增长。而当技术还不足以令人信服时，确认偏误就会弥合这道差距。如果内容符合你的既有看法，你可能就会忽略不自然的面部表情或含混不清的音轨。
深度伪造的经典案例之一是BuzzFeed 的一段视频，其中奥巴马总统发表了一番耸人听闻的言论。视频展示了骗局是如何制作出来的。制作这段视频需要一名演员模仿奥巴马的声音，这或许让人感到些许安慰。然而，正如BBC 的一项实验最近所证明的那样，这一要求很快就将不复存在。你可以亲自尝试 BBC 的测试，但大多数受访者都认为，人工智能胜过了专业模仿者。
无论是否怀有恶意，人们都可以利用 FakeApp 等开放平台制作初级的视频伪造内容。互联网迅速让这种危险能力普及开来。如今，要大规模制造虚假信息，不再需要专业技术培训或大量资源。
颠覆性技术引发重大公民社会挑战，这并非首次。我们也有理由相信，随着深度伪造技术日益先进，检测技术也会随之进步。例如，Facebook刚刚宣布计划加快识别和清除虚假信息的工作，欧盟则资助了In Video Veritas——一款用于识别伪造视频的浏览器插件。
但我们的挑战远不止识别伪造内容：社会极化和过滤气泡，才是算法驱动、信息过载的现实所带来的危险副作用。无论耸人听闻的标题是否属实，它们早已像野火一样蔓延。质量存疑或来源不明的内容转眼就能走红。视频比任何文字或图片都更能触动人的本能，骗局传播并塑造我们认知的风险也高出许多。
一方面，提高认知是应对此问题的首选良方。如果我们了解操纵视频、制作高质量伪造内容有多容易，就都会更加警惕。另一方面，警惕性增强意味着信任减少，也会促使人们进一步退回数字回音室，只相信范围日益缩小的圈子。
应对这一威胁没有简单的答案。不过，以下是一些可供着手的思路：
政策制定者必须积极主动、大胆行动。预防措施可以包括尽早告知对恶意内容制作方或发布方的处罚，并制定明确的执法流程。不过，更重要的是与传统媒体和数字媒体平台沟通，重新思考网络内容安全保障体系。例如非法的点对点音乐分享。它在最盛行时看似势不可挡，但最终在法律行动与新商业模式的共同作用下得到遏制。
科技巨头应当评估自身在社会中的角色。过滤气泡并非硅谷首创，但它们与助长其发展的数字平台一道，已发展到威胁社会政治秩序的程度。俗话说，如果产品免费，那你就是产品。只要在线服务的用户仍是产品，我们的数字公域就依然脆弱。人们在某个平台付费使用数字内容，就拥有直接利益，也有理由要求更严格的质量管控。金融时报（FT）于2002年推出付费墙时，这有悖于当时的许多惯例。十年后，“社交新闻”平台 Medium 上线，如今也提供付费订阅。现在，每月支付 11.99 美元的会员费，就能无广告观看 YouTube。看来这一趋势已经开始加速。
随着网络威胁不断演变，互联网安全也在发展。早期的防火墙和防病毒软件有助于清除恶意代码，而如今零信任架构正成为新的标准。旧有的系统安全依靠将恶意内容列入黑名单、放行其余内容；新方法则建立在不同的假设之上：除非内容已列入白名单，否则一律视为风险。也许，面向未来的所有数字内容都不可避免地要经历这种范式转变。在这一方面，区块链技术或许会有所帮助，正如安东尼奥·加西亚·马丁内斯在他为《连线》撰写的文章中所提出的。
除了显而易见的建议——我们都应对所接收的信息保持批判性思考——如今，公民要求民选代表为数字时代订立新的社会契约，也已刻不容缓。
深度伪造将考验我们制度的韧性，并挑战事实与真相等基本观念。它们会播下怀疑的种子，甚至引发失败主义和愤世嫉俗。如果人类无法采取先发制人的行动，人工智能生成的伪造内容泛滥，可能会引发恶性循环：社会分歧不断扩大，信任随之瓦解。我们不能坐等事态发展。我们必须重视这一问题，立即采取行动，并重新界定人与算法互动的框架。
