丹麦正在提议出台新的深度伪造立法，作为其数字版权法的一部分，旨在保护个人权利不受AI生成的深度伪造内容影响。
从传播假新闻到助长金融欺诈和网络犯罪，深度伪造攻击日益增多，造成了巨大的经济损失。
世界经济论坛的全球数字安全联盟旨在加快公私合作，以应对包括深度伪造在内的有害网络内容，并推广数字媒体素养。
深度伪造可以从滑稽可笑、荒诞不经，发展到具有操纵性和危险性。
丹麦政府正在采取行动，旨在加强其版权法，以防止制作和传播AI生成的深度伪造内容。该修正案被认为是欧洲首例，旨在保护个人对其外貌和声音等身份的权利。该政府在跨党派支持下，希望于秋季提交该修正案，这表明防止深度伪造被视为一项紧迫事务。
那么，深度伪造究竟有多大威胁，政策制定者又能做些什么？
什么是深度伪造？
深度伪造利用人工智能（AI）技术制作高度逼真的虚假图像、视频和音频录音。该术语源自“深度学习”和“伪造”，既指所使用的AI技术，也指由此产生的内容。
深度伪造要么改动现有内容，例如将迈克尔·J·福克斯（Michael J. Fox）的面孔替换为汤姆·霍兰德（Tom Holland）的面孔，出现在《回到未来》片段中，要么生成新内容，显示某人说了或做了他们并未说过或做过的事情。
尽管在电影场景中叠加面孔乍看之下似乎无害，但它仍然挑战了个人对其形象的权利。美国演员于2023年为争取这一权利举行罢工，导致电影和电视制作陷入停顿，并促使业界承诺，今后任何对演员形象的AI使用都需获得同意。
深度伪造为何构成威胁？
深度伪造更令人担忧的用途是传播假新闻，例如伪造美国前总统乔·拜登和乌克兰总统沃洛迪米尔·泽连斯基的深度伪造内容。这使得这些信息看起来像是来自可信来源，从而具有很高的可信度。
但并非所有深度伪造攻击都出于政治动机。据Resemble.ai的最新研究，金融欺诈和网络犯罪是另一大增长领域。在被攻击的对象中，41%为公众人物（包括名人、政治家和企业领袖），34%为私人个体，主要为女性和儿童，18%为组织机构。
以英国工程公司Arup为例，该公司遭遇了一起规模可观的深度伪造诈骗：犯罪分子利用一名高级经理的AI生成克隆体，在视频通话中说服一名财务员工向网络犯罪分子转账2500万美元。
一起针对法拉利的诈骗企图，利用了首席执行官贝内代托·维尼亚（Benedetto Vigna）的AI生成声音，险些得逞，幸而一名员工提出了一个只有真正的首席执行官才能回答的棘手问题，才将其阻止。
一名BBC记者曾绕过其银行的声纹识别系统，使用的是其本人声音的合成版本。
在其深度伪造安全报告（2025年第二季度）中，专门从事识别有害深度伪造的公司Resemble.ai报告称，2025年第二季度公开披露的深度伪造攻击有487起，较上一季度增长41%，同比增长超过300%。该公司还发现，深度伪造诈骗造成的直接经济损失已接近3.5亿美元，且深度伪造攻击大约每六个月翻一番。
各国政府正在采取哪些行动？
据Resemble称，深度伪造诈骗是一个全球性问题，主要集中在技术先进地区，但新兴市场受到的影响日益增加。美国报告的事件数量居首，但深度伪造案件在亚太地区和欧洲也十分普遍，并且在非洲迅速增长。
政策制定者正在加大应对深度伪造的力度，美国的《Take It Down法案》是迄今为止最重要的举措之一。该法案要求在48小时内删除有害的深度伪造内容，并对其传播施加联邦刑事处罚。公共网站和移动应用必须建立举报和删除程序。田纳西州、路易斯安那州和佛罗里达州的州立法机构也已通过深度伪造相关法律。
在欧洲，欧盟《数字服务法》（DSA）于2024年生效，旨在“防止网上非法和有害活动以及虚假信息的传播”。在线服务提供商如今受到欧盟比以往任何时候都更严格的审查，多项针对不合规行为的正式调查已在进行中。英国于2025年初通过《在线安全法》（Online Safety Act）采取了类似做法。
目前正在审议的丹麦修正案意味着受深度伪造内容影响的人可以要求删除相关内容，艺术家可以就未经授权使用其形象要求赔偿。该权利将在艺术家去世后延续50年。若修正案草案按提议获得通过，Meta和X等网络平台可能面临巨额罚款。虽然该法案并未直接规定赔偿或追究刑事责任，但它将为依据丹麦法律寻求损害赔偿奠定法律基础。
世界经济论坛如何为人工智能建立护栏？
人工智能卓越中心汇聚各行业领袖，共同理解人工智能的快速演变及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险和权衡进行知情对话。
通过可信赖的交流空间和合作性倡议，该中心使合作伙伴能够建立共同理解，并携手推进负责任的人工智能创新与应用方法。
民主的基石
丹麦目前担任欧盟理事会主席国，并明确表示有意将使媒体和文化成为核心，以服务于欧洲民主，并推动诸如《欧洲民主盾牌》等倡议。因此，丹麦近期对国内版权法的修订，很可能向布鲁塞尔及更广泛的欧盟发出强烈的政治信号。
世界经济论坛的全球数字安全联盟强调跨地区合作对于使网络世界更加安全的必要性，旨在加速公私合作，以应对包括深度伪造在内的有害内容。该联盟还推动网络安全监管领域最佳实践的交流，并支持提升数字媒体素养的工作。
