网上深度伪造视频的数量预计以每年约900%的速度增长。
技术进步使制作深度伪造内容变得越来越容易，也引发了如何最好地防止其被恶意滥用的问题。
有人提出，让人们接触深度伪造并提高认识，是帮助他们抵御其危险的最佳方式。
去年美国总统选举结束两个月后，唐纳德·特朗普姗姗来迟地承认败选，一些新闻报道聚焦于一个根本问题：他的讲话究竟是否真的发生过。
深度伪造的急剧激增——这类网络影像能在想象力、残忍程度或狡诈程度所及范围内，让任何人看起来做出或说出任何事情——已经开始动摇人们对自身辨别现实能力的信心。
这项技术的最新进展令震惊，连资深科技观察人士也不例外；如今，任何拥有手机并能使用Avatarify等应用的人，都能制作出效果尚可的版本。
据一家初创公司的估算，网上深度伪造视频的数量从2019年的14,678个增至次年6月的145,277个。上个月，联邦调查局警告称，“恶意行为者”可能会在不久的将来利用深度伪造在美国开展外国影响行动和犯罪活动。世界各地都有人担忧，这项技术将日益成为虚假信息、分裂、欺诈和敲诈勒索的来源。
缅甸执政军政府最近发布了一段视频，声称该国被拘押的文职领导人自证其罪；这段视频广泛遭到质疑，被认为是深度伪造。去年，比利时首相将新冠肺炎与气候变化联系起来的言论被证实是深度伪造；印度政治人物马诺杰·蒂瓦里利用这项技术进行竞选也引发了警觉。在加蓬，人们相信一段该国病弱总统的视频是深度伪造，引发了一场全国性危机，时间是2019年初。
出于政治目的操纵图像、改变公众观感，至少可以追溯到斯大林时期——他曾因从官方照片中删除遭清洗的同志而臭名昭著。
不过，有人认为，更紧迫的问题是非公众人物在网上更容易遭受攻击。例如，印度记者拉娜·阿尤布曾详细讲述有人如何利用深度伪造色情内容试图让她噤声。
有些人认为，这项技术本身带来的威胁被夸大了，而真正的问题在于，如今不法分子可以一声“深度伪造”就否认不当行为的视频证据，就像他们可能把不喜欢的媒体报道斥为“假新闻”一样。
不过，据一份报告称，技术精良、经过“定制”的深度伪造构成重大威胁；此类内容可能被留待选举等关键时刻使用，以最大限度地扩大影响。据该报告估计，截至2020年，制作“最先进”深度伪造内容所需技术的成本不到30,000美元。
“深度伪造”一词在2018年开始流行，其不光彩的起源由来已久。此后，要求对其进行监管或予以禁止的呼声日益高涨；美国已提出相关立法，2019年中国则将未披露即发布深度伪造内容定为刑事犯罪。Facebook去年表示将禁止非戏仿或讽刺性质的深度伪造内容；Twitter则表示将禁止可能造成伤害的深度伪造内容。
有人提出，让人们接触深度伪造，是帮助他们抵御其危险的最佳方式。各方已采取多种举措，帮助公众了解其中的利害关系。
去年，美国热门动画剧集《南方公园》的创作者发布了走红网络的视频《Sassy Justice》，其中出现了特朗普和马克·扎克伯格的深度伪造形象。他们在一次采访中解释说，人们对深度伪造的焦虑可能已被与疫情相关的担忧盖过，但这个话题仍值得去神秘化。
如需了解更多背景，以下是世界经济论坛战略情报平台提供的延伸阅读链接：
据这篇报道，随着人们对深度伪造的认识不断提高，他们很快就能识别出网上冒充“亚马逊员工”、抨击工会的虚假账号；不过，对这项技术过度警觉也可能让人们不再相信真实媒体。（《麻省理工科技评论》）
一项近期发表的研究指出，旨在帮助我们检测深度伪造的系统可能受到欺骗：只要在每一帧视频中插入“对抗样本”，就能扰乱机器学习模型。（《科学日报》）
威权政权可以利用“深度伪造”的说法。据这篇评论文章称，有权势者越来越常声称影像经过深度伪造或篡改，以便在 incriminating footage 出现时声称自己有理由否认。（《连线》）
人们很容易把虚假信息的泛滥归咎于深度伪造，但据这篇评论文章称，这项技术并不比更传统的创意撒谎手段有效多少——比如简单地把编造的引语贴到某人的照片上再分享。（NiemanLab）
一项近期发表的研究发现，了解深度伪造的新加坡人中，每三人就有一人认为自己曾在社交媒体上传播过深度伪造内容，后来才知道那是一场骗局。（《科学日报》）
“这真的让人感到无能为力。”据这篇报道，深度伪造色情内容正在毁掉女性的生活，不过法律解决方案或许即将出台。（《麻省理工科技评论》）
“每个人手掌中都有一个宣传机器的潘多拉魔盒。”据这篇文章称，目前深度伪造仍相对容易被识破，但不久后，过去需要数百名技术人员和数百万美元才能实现的效果，用一部手机就能做到。（澳大利亚战略政策研究所）
在战略情报平台上，你可以查阅与以下领域相关的专家分析动态：人工智能、数字身份以及数百个其他主题。你需要注册才能查看。
