• 不断出现的“深度伪造”威胁可能对2020年的美国总统选举产生前所未有的影响,从而对民主选举、政策制定和整个社会的可信度提出了严重质疑。
  • 我们需要为针对于政治广告和在线平台内容人工智能制定新的“道德议程”。鉴于该问题的跨国性质,道德议程必须获得全球范围内的共识和行动上的支持。
  • 社区和个人还可以通过设置更高的政治内容创作或者互动门槛,直接应对人工智能的威胁。

几个月后,美国将选举出第四十六届总统。 除了人们所担心的新冠病毒大流行期间竞选和投票的安全性的问题,另一个问题也同样至关重要:有多少选票是通过人工智能对选举的操纵性影响产生的?

尤其是,不断出现的“深造伪造”(译者注:Deepfake,是英文“深度学习deep learning”和“伪造fake”的混成词,专指基于人工智能的人体图像合成技术的应用)技术威胁,可能会对这一选举周期产生前所未有的影响,从而对选举、政策制定,以及我们整个民主社会的可信度提出严峻挑战。

了解"深度伪造"技术

基于人工智能的“深度伪造”技术可能会给美国2020年选举带来令人不安的后果。

这项技术起初只是用于自制搞笑的“换头”视频,但人工智能的进步另其用途得以扩充。

如今,像DeepFaceLabFaceswap这样的开源软件可以使用户随时随地都可以访问云计算,无需进行任何事先开发就能够部署复杂的机器学习过程和图形渲染。

更令人担忧的是,技术本身正在以如此之快的速度发展。专家预测,“深度伪造”技术所产生的视频可能很快会接近真实视频。 人工智能今天可以创造出惊人的结果,可以归功于子领域“对抗网络”(译者注:Generative Adversarial Network,简称GAN,是非监督式学习的一种方法,通过让两个神经网络相互博弈的方式进行学习)的巨大飞跃——这项技术使神经网络能够从单纯的感知过渡到创造。

就像人们对病毒技术所期望的那样,随着人工智能和云计算的不断“民主化”,人们能够更加简单地访问相关流程和技术,“深度伪造”视频的数量也将呈指数级增长

新的信息流行病?

正如我们在新冠病毒疫情大流行期间所看到的那样,错误信息的病毒性传播很少需要权威的外壳——无论这些内容对听众多有害,或是在客观上多危险。

“深度伪造”技术可以很容易地将伪造的叙述和信息,与虚假的权威相结合,它们具有误导、误传和操纵信息的空前潜力——“不敢相信自己的眼睛”在“深度伪造”技术下有了全新的含义。

实际上,根据布鲁金斯学会(Brookings Institute)最近发布的一份报告,“深度伪造”技术不仅在歪曲民主言论,而且削弱了民众对整个公共机构的信任,而这一切进展得异常顺利。

“深度伪造”技术如何成为选举武器?

在选举中为何“深度伪造”技术会成为一种武器? 首先,恶意的行为者可能会伪造证据,助长了虚假指控和虚假叙述。例如,通过对候选人发表的原有言语进行微妙改变,使其品格、健康状况和心理健康受到质疑,而大多数观众却完全不知道其中的门道。

“深度伪造”技术还可用于创建全新的虚拟内容,包括有争议的发言或仇恨言论,目的是操纵政治分歧议题,甚至是煽动暴力。

不足为奇,在其他国家及地区,“深度伪造技术”也已被用来破坏政府和政治进程的稳定。

加蓬,军方发动了一场未遂政变。在这场政变之前,他们发布了一条伪造出来的视频,视频中领导人阿里·邦戈(Ali Bongo)暗示总统的身体状况不佳,无法继续任职。在马来西亚,一个经济事务部长的性爱视频引发了关于该视频是否为深度伪造影片的巨大争论,对其造成了声誉损失。在比利时,一个政治团体放出了比利时总理的深度伪造视频——在该视频中,总理将新冠疫情与环境破坏联系起来,呼吁对气候变化采取严厉行动。

真相会消失吗?

迄今为止,我们在应对深度伪造技术方面的能力很差。

皮尤研究中心(Pew Research Center)表示,近三分之二的美国人口认为造假内容为政治现实带来了极大的混乱。更糟糕的是,即使我们尽最大努力纠正和核实虚假内容,最终也只能起到加强虚假叙述传播的作用

为了使人工智能和民主共存,我们必须尽快确定一个“什么才是真相”的共识,并为事实创造一个共享平台,让每个人都可以安全地提出不同意见。

针对政治广告和在线平台内容,我们迫切需要为人工智能制定新的“道德议程”。 鉴于该问题的跨国性质,道德议程必须获得全球范围内的共识和行动上的支持。

类似于世界经济论坛所提出的“负责任的技术使用倡议“,会是一个良好的开端。这些倡议将技术主管召集在一起,讨论其平台技术的使用准则。

在更本地的层面上,立法机关已经开始遵循加利福尼亚州在选举期间禁止使用深度伪造技术的倡议,甚至Facebook也推出了自己的禁令,禁止某些形式的虚假内容,并努力创新技术以甄别伪造内容。

未来:事实还是虚构?

尽管如此,我们还可以做更多的事情。

我们不一定需要技术或监管范式的变更,来应对”深度伪造“技术的挑战。 取而代之的是,社区和个人还可以通过设置更高的门槛,通过规范线上的政治内容创作和互动,直接应对人工智能的威胁。

实际上,除非选民自己在线上交流中支持事实和真相,否则根本就不可能推动有意义的变革——线上平台固有的主观性让”事实”本身处于不利地位。

无论我们是否希望如此,“深度造假”技术都将存续。 但2020年11月的美国总统选举月,我们可以坚定立场,集体行动起来,一同应对人工智能的威胁——现在还不算太晚。

本文作者:

Alexander Puutio,创始人,全球杰出青年社区纽约中心III

David Timis,策展人,全球杰出青年社区布鲁塞尔中心

本文原载于世界经济论坛Agenda博客,转载请注明来源并附上本文链接

翻译:陈达铿

编辑:王思雨