“深度伪造”民主：假新闻如何决定现代选举

不断出现的“深度伪造”威胁可能对2020年的美国总统选举产生前所未有的影响，从而对民主选举、政策制定和整个社会的可信度提出了严重质疑。
我们需要为针对于政治广告和在线平台内容人工智能制定新的“道德议程”。鉴于该问题的跨国性质，道德议程必须获得全球范围内的共识和行动上的支持。
社区和个人还可以通过设置更高的政治内容创作或者互动门槛，直接应对人工智能的威胁。

几个月后，美国将选举出第四十六届总统。除了人们所担心的新冠病毒大流行期间竞选和投票的安全性的问题，另一个问题也同样至关重要：有多少选票是通过人工智能对选举的操纵性影响产生的？

尤其是，不断出现的“深造伪造”（译者注：Deepfake，是英文“深度学习deep learning”和“伪造fake”的混成词，专指基于人工智能的人体图像合成技术的应用）技术威胁，可能会对这一选举周期产生前所未有的影响，从而对选举、政策制定，以及我们整个民主社会的可信度提出严峻挑战。

了解"深度伪造"技术

基于人工智能的“深度伪造”技术可能会给美国2020年选举带来令人不安的后果。

这项技术起初只是用于自制搞笑的“换头”视频，但人工智能的进步另其用途得以扩充。

如今，像DeepFaceLab和Faceswap这样的开源软件可以使用户随时随地都可以访问云计算，无需进行任何事先开发就能够部署复杂的机器学习过程和图形渲染。

更令人担忧的是，技术本身正在以如此之快的速度发展。专家预测，“深度伪造”技术所产生的视频可能很快会接近真实视频。人工智能今天可以创造出惊人的结果，可以归功于子领域“生成对抗网络”（译者注：Generative Adversarial Network，简称GAN，是非监督式学习的一种方法，通过让两个神经网络相互博弈的方式进行学习）的巨大飞跃——这项技术使神经网络能够从单纯的感知过渡到创造。

就像人们对病毒技术所期望的那样，随着人工智能和云计算的不断“民主化”，人们能够更加简单地访问相关流程和技术，“深度伪造”视频的数量也将呈指数级增长。

新的信息流行病？

正如我们在新冠病毒疫情大流行期间所看到的那样，错误信息的病毒性传播很少需要权威的外壳——无论这些内容对听众多有害，或是在客观上多危险。

“深度伪造”技术可以很容易地将伪造的叙述和信息，与虚假的权威相结合，它们具有误导、误传和操纵信息的空前潜力——“不敢相信自己的眼睛”在“深度伪造”技术下有了全新的含义。

实际上，根据布鲁金斯学会（Brookings Institute）最近发布的一份报告，“深度伪造”技术不仅在歪曲民主言论，而且削弱了民众对整个公共机构的信任，而这一切进展得异常顺利。

“深度伪造”技术如何成为选举武器？

在选举中为何“深度伪造”技术会成为一种武器？首先，恶意的行为者可能会伪造证据，助长了虚假指控和虚假叙述。例如，通过对候选人发表的原有言语进行微妙改变，使其品格、健康状况和心理健康受到质疑，而大多数观众却完全不知道其中的门道。

“深度伪造”技术还可用于创建全新的虚拟内容，包括有争议的发言或仇恨言论，目的是操纵政治分歧议题，甚至是煽动暴力。

不足为奇，在其他国家及地区，“深度伪造技术”也已被用来破坏政府和政治进程的稳定。

在加蓬，军方发动了一场未遂政变。在这场政变之前，他们发布了一条伪造出来的视频，视频中领导人阿里·邦戈（Ali Bongo）暗示总统的身体状况不佳，无法继续任职。在马来西亚，一个经济事务部长的性爱视频引发了关于该视频是否为深度伪造影片的巨大争论，对其造成了声誉损失。在比利时，一个政治团体放出了比利时总理的深度伪造视频——在该视频中，总理将新冠疫情与环境破坏联系起来，呼吁对气候变化采取严厉行动。