深度伪造带来的威胁与预期不同，个人该如何防范？

深度伪造带来的最大威胁是什么？一年前，许多人可能会说：深度伪造会扰乱全球选举，并引发一场错误信息和虚假信息的灾难。但事实并非如此。

在2024年的选举周期中，表情包、政治宣传和低质量的“AI垃圾”没有扭转任何候选人的选情。

然而，深度伪造依然存在于我们身边，对选举的无效影响并不意味着它们是无害的。

自2020年以来，我一直在撰写有关深度伪造的文章，并警告人们，深度伪造带来的威胁与预期不同，它并不是一种会影响选举的错误信息或虚假信息威胁。

Meta最新的报告证实了这一点。报告指出，经事实核查，在2024年选举周期的所有错误信息中，只有不到1%是由AI生成的。

全球范围内的重大选举（包括规模最大的印度大选）都顺利举行，未发生AI意外事件。尽管如此，直到2024年美国总统大选前，专家们仍在不断宣扬AI的危险性。

许多人高估了深度伪造的影响，因为他们不能理解，高度逼真的图像或视频怎么可能不欺骗公众呢？毕竟，教皇穿羽绒服、美国歌手Katy Perry在Met Gala身着礼裙的图像确实曾骗过了我们的眼睛。但是，这些图像没有重大的利害关系，也不与人们的既有观念冲突。

选举可能是高度两极化且极易引起分裂的。在这种情况下，信息消费和分享的方式往往符合人们的既有观念。在这些场景中，真相本身很多时候不会改变人们的看法。

不少人忽略了这样一个事实：早在生成式人工智能（GenAI）出现之前，互联网上就已经存在大量假信息。但即便如此，我们也并未陷入错误信息和虚假信息的末日危机。错误信息已经成为了一种娱乐形式，人们通过分享符合自身立场的表情包和政治宣传内容来表达支持，并激怒对立阵营。

随着深度伪造变得更加强大和普及，两种直接的危害已经出现：骚扰和社会工程攻击。

深度伪造可以针对并骚扰个人。最极端的骚扰形式是未经同意散布生成的私密影像。这些图像可能被直接发布，也可能被用于敲诈和性勒索骗局。

这种形式的骚扰产生了更广泛的社会影响。各国正在提议修订新的法律，专门应对此类问题。例如，美国的《删除法案》已在参议院获得一致通过。

第二种风险是社会工程攻击。深度伪造可能利用人和技术的漏洞。例如，攻击者用AI模仿家庭成员的声音，骗取亲属的钱财。随着此类骗局增多，美国联邦贸易委员会等组织已经向消费者发出了警报。

除了诈骗，攻击者还可能针对组织里的个人发起更高水平的社会工程攻击。他们会模仿声音，或结合深度伪造视频，采用更复杂的手段。

据报道，2024年2月，一家香港跨国公司的财务人员向诈骗分子转账了2500万美元。在该名职员参加的Zoom会议中，包括公司首席财务官在内的所有参与者都是深度伪造的。

深度伪造还可能用来攻击系统，通常是有身份验证或授权功能的系统。这可以暴露出验证策略的薄弱环节，例如，银行只要求简单的声纹识别。

尽管深度伪造可以增强社会工程攻击，但到目前为止，在Kudelski Security的IR团队每年处理的大量意外事件中，还没有一起涉及复杂的深度伪造技术。基本的社会工程方法仍然占主导地位。

随着工具普及和内容创作门槛降低，深度伪造技术将长期存在。不幸的是，这将大部分防范责任落到了个人身上。

我们应当与家人讨论相关场景，让他们意识到危险，以防范诈骗。家人应设置一个共同的“暗号”，用来确认对方的身份是否真实。

在组织和工作场所，员工和现行的技术共同承担防范责任。为了让用户意识到相关场景和潜在的危害，我们需要用深度伪造攻击的实例来强化用户教育和认识提高方案。

深度伪造检测技术正在持续研究中。不过，我们可以采取一些步骤来降低风险并提高攻击难度。

我们可以进行强身份验证和授权：识别出身份验证或授权中的薄弱环节，例如简单的声纹识别或平面图像文件验证，并通过额外的安全措施来加强这些环节。

对于语音验证，我们可以增设一个攻击者不知道的暗号；对于人脸验证，则可以采用真人检测，要求用户转动头部。

照片ID等文件可以采用同样的方法，要求用户转头。这些技术都不是万无一失的，攻击者已经在利用其中的漏洞，这意味着组织需要采取多层安全措施，提高攻击的难度。

深度伪造的一些问题超出了我们的掌控范围。这可能需要政府介入，针对某些技术用途制定法律，例如未经同意散布生成的私密影像。如果人们遭遇骚扰，还可以在Meta、X等技术平台举报相关行为。

最重要的是，组织需要准备好制定策略并适应变化。随着AI技术的进步和新技术的出现，组织必须保持警惕，时刻关注攻击者的技术手段，以保护员工和系统。

本文作者：

Nathan Hamiel，Kudelski Security研究高级总监

本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。

翻译：狄陈静

编辑：王灿