虚假信息已被列为2024年全球主要风险之一，其中深度伪造是最令人担忧的人工智能应用之一。
由带有议程导向的实时多模型人工智能聊天机器人和虚拟形象所使用的深度伪造技术，将实现高度个性化且更为有效的操纵手段。
在日益沉浸式的网络环境中，零信任思维将成为区分真实与合成内容的重要工具。
生成式人工智能（genAI）和大型语言模型（LLM）的发展，催生了深度伪造的出现。“深度伪造”一词基于深度学习（DL）技术，用于重现现有图像、视频或音频材料的全新但虚假版本。这些内容可能逼真到使人难以识别其为伪造，极具挑战性，对人类而言。
面部操纵方法尤其值得关注，因为面部是人类交流中极为重要的要素。这些由人工智能生成的媒体内容能够令人信服地呈现真实（且往往具有影响力）的人物说出或做出其从未说过或做过的事情，从而产生误导性内容，并可能深刻影响公众舆论。
这项技术在娱乐行业带来巨大益处，但一旦被滥用于政治操纵，深度伪造伪造令人信服的虚假信息的能力，可能导致选民弃权、左右选举、加剧社会极化、败坏公众人物声誉，甚至引发地缘政治紧张。
世界经济论坛已将虚假信息列为2024年的主要风险之一。同时，深度伪造已被列为最令人担忧的人工智能应用之一。
随着生成式人工智能工具日益易得，今天的深度伪造制作者无需技术专长或雄厚资金，即可生成真实人物的超逼真合成视频、音频或图像版本。例如，Countercloud背后的研究者使用广泛可得的人工智能工具，开展了一项完全自动化虚假信息研究项目，成本不到每月400美元，这说明制造大规模虚假信息宣传活动已变得多么廉价和容易。
低成本、易操作和规模化加剧了现有的虚假信息问题，尤其是在用于政治操纵和社会极化时。2023年12月8日至2024年1月8日期间，100多条深度伪造视频广告被发现冒充英国首相里希·苏纳克，投放于Meta平台，其中许多广告引发了情绪化反应，例如使用“人们都愤怒了”之类的措辞。
深度伪造推动虚假信息以扰乱民主进程、损害声誉并煽动公众动荡的潜在风险不容低估，尤其是在数字媒体日益融入政治竞选、新闻广播和社交媒体平台的背景下。
未来的挑战包括被带有议程导向的实时多模型人工智能聊天机器人所利用的深度伪造，这将实现高度个性化且更为有效的操纵手段，进一步加剧我们当前面临的风险。互联网的去中心化特性、各国隐私法律的差异以及人工智能的持续演进，意味着即便并非不可能，要阻止恶意深度伪造的使用也非常困难。
应对措施
1. 技术
目前已存在多种基于技术的检测系统。这些系统利用机器学习、神经网络和取证分析，可以分析数字内容中通常与深度伪造相关的不一致之处。检验面部操纵的取证方法可用于核实内容的真实性。然而，要构建和维护能够进行在线实时分析的自动化检测工具仍是一项挑战。但随着时间推移和广泛采用，基于人工智能的检测措施将对打击深度伪造产生积极影响。
2. 政策努力
据世界经济论坛全球未来理事会技术政策领域成员Charmaine Ng称：“我们需要国际和多方利益相关者的努力，探索可行、可操作且可落实的方案，以应对深度伪造这一全球性问题。在欧洲，通过拟议中的《人工智能法案》，以及美国的《人工智能行政令》，各国政府正试图在人工智能价值体系中引入一定程度的问责和信任，通过向其他用户表明内容是否真实来实现这一点。
它们要求网络平台检测并标注由人工智能生成的内容，并要求生成式人工智能开发者构建防护措施，防止恶意行为者利用该技术制作深度伪造内容。目前已在推进就负责任的人工智能达成国际共识、划定明确红线，我们需要以此势头继续推进。”
强制要求生成式人工智能和大型语言模型提供商在深度伪造内容制作过程中，于分发前嵌入可追溯性和水印，可提供一定程度的问责，并表明内容是否为合成内容。然而，恶意行为者可能通过使用越狱版本或开发自有的不合规工具来规避此类措施。需要就伦理标准、可接受用途的定义以及恶意深度伪造的界定标准达成国际共识，以形成统一阵线，对抗此类技术的滥用。
3. 公众意识
公众意识和媒体素养是应对人工智能赋能的社会工程和操纵攻击的关键措施。从早期教育开始，个人应具备识别真实与伪造内容的技能，了解深度伪造如何传播，以及恶意行为者所采用的心理和社会工程策略。媒体素养项目必须优先培养批判性思维，并使人们具备核实所接收信息的工具。研究表明，媒体素养是一项强大的技能，有潜力通过降低人们分享深度伪造内容的意愿，保护社会免受人工智能驱动的虚假信息的侵害。
4. 零信任思维
在网络安全领域，“零信任”方法意味着默认不信任任何事物，而是对一切进行验证。当应用于人们在线获取信息时，它要求保持健康的怀疑态度并持续进行验证。这一思维与正念实践相契合，即鼓励人们在对带有情绪刺激的内容作出反应前先暂停，并以有意识、深思熟虑的方式接触数字内容。通过网络安全正念计划（CMP）培养零信任思维文化，有助于使用户具备应对深度伪造及其他人工智能驱动的网络威胁的能力，而这些威胁仅靠技术难以防御。
随着我们越来越多地在线生活，并且元宇宙即将成为现实，零信任思维变得更加重要。在这些沉浸式环境中，区分真实与合成内容将至关重要。
世界经济论坛如何为人工智能建立护栏？
人工智能卓越中心汇聚各行业领袖，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用所涉及的机遇、风险与权衡展开知情对话。
通过可信空间和合作倡议，该中心使合作伙伴能够建立共同理解，并携手推进负责任的人工智能创新与应用。
应对数字空间中的深度伪造威胁，并不存在一招制胜的方法。相反，需要结合技术和监管手段，并提高公众意识，形成多层次的应对方案。这需要各国、各组织和公民社会开展全球合作，并具备充分的政治意愿。
与此同时，随着物理世界与虚拟世界之间的界限持续模糊，零信任思维将促使人们采取更为主动的网络安全立场，使个人和组织在面对数字欺骗时始终保持高度警惕。
