公众人物的深度伪造音频有可能扰乱民主。
我们正在利用人工智能语音合成技术,与过去几代声音技术一样,用于创意表达,也用于传播虚假信息和怀疑。
如何遏制对人工智能生成内容的恶意使用?
如果你即将投票支持的政治人物私下商量如何窃取选举,或者一位性情温和的候选人满口脏话地大发 脾气。这会改变你的想法吗?会改变你的投票吗?最近流传的斯洛伐克政治人物与一位愤怒的英国反对党领袖的音频在近期流传时,我们本应停下来更仔细地倾听。合成声音——深度伪造——把话强加到了他们嘴里。
新的合成声音是生成式人工智能(AI)的产物。它们通过语音样本进行训练,并被赋予要朗读的稿件。当然,计算机生成的声音并非一无是处。史蒂芬·霍金找到了一种声音,借此向世人揭示宇宙奥秘;瓦尔·基尔默在《壮志凌云:独行侠》中的台词由人工智能生成,该人工智能基于他因癌症失声前录制的录音进行训练。但霍金和基尔默都授权了这些声音,并掌控其所说的内容。
深度伪造音频具有欺骗的力量
我们有滥用旨在操纵和传播声音的技术的记录。冒充世界领导人的人经常以恶作剧电话,戏弄政治人物。但声音也可被劫持,为某些观点增添可信度,甚至说服我们去做原本不会去做的事。二战接近尾声时,温斯顿·丘吉尔想要减缓德军的部队调动,于是求助于他的黑色宣传团队。两名极具说服力的模仿者接管了科隆电台,假扮成该电台的节目主持人,并说服平民涌上街头。但模仿熟悉的声音需要技巧和时间,因此逼真的模仿者一直是稀缺资源——直到现在。合成声音可以被克隆,并不知疲倦地重复我们给它的任何内容,甚至能将其信息量身定制给只有一个人的受众。人工智能冒充他人的规模和速度是我们前所未见的。
市面上已有乔·拜登和唐纳德·特朗普的现成声音,可在FakeYou等社区网站上找到,任何人都能让他们说出任何话。如果你想要的声音尚未可用,有人一天内就能以25美元为你制作一个。要经得起仔细推敲的逼真声音则需要更多时间和专业技能,还需要高端人工智能来消除露馅的瑕疵,但当我们不加留心时,这或许就是大材小用了。
音频具有独特的力量,能降低我们的戒备。2020年,一位不具名的香港银行经理接到了一位客户的电话;对方是他认识的人,而且他很熟悉对方的声音。该客户要求转账3500万美元以完成一项收购。这位银行经理完成了转账。他被一个合成声音骗了。一通电话要进行到什么程度,你才会怀疑一个你很熟悉的人是机器?
声音正变得越来越逼真,而训练所需的工作量却在不断减少。微软声称其VALL-E服务能够从三秒钟的样本中生成声音。它会在其包含数千种现有声音的库中寻找最接近的匹配——其中许多基于已超出版权保护期限的有声书——并对其进行调整以模仿该样本。声音越多,匹配就越接近,而更多用户将提供人工智能所需的燃料——即关于其表现的反馈。
我们如何能相信所听到的内容?
预防胜于治疗。微软尚未公开发布VALL-E,而Resemble AI是越来越多生产商用合成声音的公司之一,它要求原始说话人在克隆其声音之前录制同意声明。但谁来监管整个行业?如果不以诋毁和压制言论自由为代价,这能做到吗?又如何避免为任何合法录制到自己说了不该说的话的人提供看似合理的推诿空间?
2023年1月,中国出台规定,要求服务提供商必须对“深度合成”内容进行标注和监管,七国集团国家也发布了一份不具约束力的行为准则。虽然两者都缺乏具体细节,但这是重要的进展。
无法听到的水印可以嵌入合成音频文件和训练数据中,恶意伪造内容在上传时即可被检测到——Resemble AI的检测服务仅用200毫秒就判定英国那段音频是伪造的——但社交媒体公司总是不愿在用户发帖时增加阻碍。Resemble AI首席执行官Zohaib Ahmed将解决方案视为“人工智能的防病毒软件”,即“这种隐藏的东西不仅将嵌入这些分发渠道,还将嵌入你的操作系统本身”。他将其与SSL以及能清晰向用户显示连接是否可信的挂锁进行类比。
世界经济论坛如何为人工智能建立护栏?
人工智能卓越中心连接各行各业的领导者,帮助他们理解人工智能的快速演进及其对经济和社会的影响。它支持就人工智能应用相关的机遇、风险和权衡进行知情对话。
通过值得信赖的平台和协作倡议,该中心使合作伙伴能够建立共同理解,并共同致力于负责任的人工智能创新与应用方法。
TikTok近期更新了其社区准则,禁止生成使用公众人物形象的人工智能内容,用于“政治或商业代言或任何其他违反我们政策的行为”,但如果虚假内容仍然漏网,那么接下来就将是一场与时间的赛跑,看谁能先将其下架或标记。我们知道结果会怎样。
我们距离40个国家的选举仅一年之遥,这些国家的人口合计占世界人口的40%,包括美国、英国和印度,危险的情景很容易想象。如果一位领导人承认窃取了选举,会怎样?媒体机构可能不会上当,但社交媒体会火上浇油。斯洛伐克泄露事件发生在投票前紧接着的两天媒体禁言期内;谎言已传遍半个地球,真相却还未来得及穿上靴子。那段虚假音频中出现的领导人所在的进步斯洛伐克党在选举中排名第二,但正如所有虚假信息运动一样,这段音频对结果的影响难以评估。
在等待能够遏制合成声音的服务和政策真正落地的同时,内容生产者和分发者需要认识到我们受所听内容影响的程度,并帮助我们更加批判性地倾听。“不要相信你所见的一切,只相信你所听到的一半。”但是哪一半呢?
