合成媒体攻击的是机构用来做决策的共享现实，而不仅仅是数据。
验证速度仍然非常缓慢，而人工智能内容生成速度越来越快，成本也越来越低。
民主制度需要分层信任基础设施来验证媒体的真实性并实现快速决策。
合成媒体——从人工智能生成的视频到语音克隆，即通过数字技术制造或篡改的内容——对民主构成的威胁已不再是纸上谈兵。在正在进行的2026年美国中期选举中，一些政治组织发布了逼真的人工智能生成视频，视频中候选人发表了他们从未说过的话，有时甚至还包含一些容易被忽略的披露信息。
这种转变正在全球范围内发生：巴西最高选举法院 最近制定的具有约束力的标准 涵盖对政治人物的合成描绘， 路透社报道 人工智能内容已成为一种标准的竞选工具，而这种工具的运作却处于各种未经检验的法律的拼凑之中。
传统网络安全保护系统、网络和数据。但合成媒体攻击的是机构赖以做出决策的共享现实。在此背景下，越来越多的政府和民主机构提出的问题本质上是一个操作性问题：我们如何才能足够迅速地确定什么是真实的，以便采取行动？
一种新型的网络安全问题
在过去的几个月里，我们在与美洲、欧洲、亚太和非洲的选举、安全和公共部门领导人进行简报时，反复出现了这个问题。
事实上，这种对快速解答的迫切需求已经促使现实世界采取了行动。在2026年苏格兰和威尔士选举之前，官员们 试点程序 用于检测疑似深度伪造视频，并快速通知候选人、执法部门和公众。
然而，信息生成速度更快、成本更低、获取更便捷，而核实过程却依然分散且缓慢。政府、平台和新闻机构各自掌握的证据都只是部分。要弥合这一差距，需要在具有重要意义的内容首次出现的通信和决策系统内部进行独立的、多模式的技术分析。
如果缺乏快速分析，即使是短暂的延误也可能造成严重的现实后果。例如，一段伪造的军事领导人宣布部队调动的视频、一段声称揭露选举干预的录音，或者一条被错误地归咎于国家机关的紧急信息。即使专家最终证明这些信息是虚假的，这些捏造的内容也可能已经影响了市场、引发了抗议、改变了军事决策，或者动摇了人们对选举的信心。
风险在于不确定性，而不仅仅是欺骗。
最显而易见的危险是民众会相信捏造的信息。但更大的危险在于，他们可能会彻底不再相信真实信息。
合成媒体赋予不法分子两大优势：他们可以伪造证据，并将真实证据斥为伪造。随着公众对深度伪造技术的认识不断加深，这种“谎言红利”也愈发明显。 2026年音频研究 研究发现，尽管参与者识别合成语音的能力没有实质性提高，但他们对真实语音的信任度却越来越低。
这改变了民主问责机制。对不当行为的合法记录可能被质疑为伪造。正当需要迅速执行紧急指令时，其真实性却可能受到质疑。政府可能因为官员无法立即判断证据的真伪而犹豫不决。
这种信任危机正在加速蔓延。 路透社新闻研究所2026年数字新闻报告 警告称，在其覆盖的48个市场中，有29个市场的新闻信任度下降，导致全球新闻信任度降至2015年开始统计以来的最低水平——仅为37%。在信息环境日益受到社交平台、人工智能聊天机器人和合成媒体影响的今天，辨别数字内容的真实性对于恢复公众信任至关重要。
这一下滑反映了更广泛的系统性脆弱性。世界经济论坛认识到这一威胁的规模，并指出…… 2026年全球风险报告 再次将虚假信息和错误信息列为全球近期最具影响的风险之一。
至关重要的是，这些技术风险和社会风险相互强化。在两极分化的社会、武装冲突以及任何机构信任度本就薄弱的地区，合成媒体的影响力会更大。这项技术无需制造这些分裂，只需利用它们即可。
构建信任基础设施
任何单一的干预措施都无法解决这个问题。民主政体需要一个多层次的信任基础设施，该基础设施融合了身份验证、独立检测、溯源、平台响应、危机应对机制和治理等功能。这一框架依赖于六大相互关联的支柱协同运作，以验证内容并加速决策。
1. 身份验证必须验证官方通信： 安全、公开易懂的方法——包括加密签名、可验证凭证和标准等 C2PA ——对于记录来源和在危机期间快速确认来源至关重要。
2. 检测必须实时进行： 独立的多模态工具必须能够持续快速地分析匿名或经过篡改的音频、视频和图像，以便在虚假信息传播开来之前，为高风险决策提供信息。 音频研究 以及 2026年雷达挑战赛 既要体现紧迫性，又要体现技术复杂性。
3. 出处证明必须尽可能记录来源： 内容凭证（例如） 合成ID 或者 C2PA标准) 可以提供媒体生成或修改方式的宝贵证据，但由于不良行为者很容易剥离或省略元数据，因此来源信息无法独立验证未签名或匿名上传的内容。
4. 平台需要直接的升级渠道： 分发网络必须建立优先途径，审查和减轻涉及选举、公共安全、军事活动或高级官员的高后果合成内容。
5. 危机应对方案必须明确行动措施： 明确的跨部门程序必须规定由谁来评估可疑媒体，需要哪些证据，以及如何将结论传达给各机构、盟友、平台和公众。这些程序应在选举和地缘政治危机之前执行，因为在这些情况下，模糊不清和拖延本身就可能构成风险。
6. 公司治理必须制定可执行的规则： 可互操作的法律标准——例如 欧盟人工智能法案的透明度要求 – 应制定合成内容的披露、证据保存和问责要求。
民主进程必须加快。
核心问题不再是合成媒体是否会被用来攻击民主制度，而是当这种情况发生时，这些制度是否做好了准备。
平台、媒体机构、研究人员和公共机构应在危机发生前合作建立可信赖的沟通渠道，从而培养保护民主的共同责任感。
其目的并非消除合成媒体或限制生成式人工智能的合法用途，而是为了在后果最为严重之时，维护社会辨别真伪的能力。
在数字时代的大部分时间里，网络安全主要关注保护对系统和信息的访问。而下一个时代，我们将需要保护人们对现实本身的信任。民主制度能否成功，取决于维系信任的系统能否跟上攻击这些系统的技术发展速度。
