你可能已经注意到，围绕“深度伪造”威胁的恐慌。深度伪造是所谓“合成媒体”的一种，它借助人工智能和机器学习的进步，改变照片、视频或音轨中的元素，或以逼真的细腻程度重现一个人的声音或面孔。任何人的面孔或声音都可能是假的，任何视频或照片都可能不可信，这种令人不安的想法挑战了我们对现实的信任。
迄今为止，深度伪造曾在少数情况下被用于攻击记者的公信力。它们还被广泛用于未经同意将名人纳入色情内容。不过，利用深度伪造扰乱政治辩论、损害国家安全、干扰人权调查以及攻击企业和公民社会团体等更广泛的恶意用途，目前尚未普遍出现。在我们尚未进入“风暴眼”之前，现在正是主动应对威胁、避免危言耸听的时机。面对深度伪造，此刻该做的是做好准备，而非恐慌。
这就是我一直在WITNESS推动相关工作的原因。WITNESS 是一家人权组织，致力于发挥视频和技术的积极力量，汇聚关键人士，共同制定务实的应对方案。我们最近举办了首届专家会议，邀请技术专家、业内人士、研究人员、人权调查人员和记者共同探讨并制定此处分享的解决方案。
深度伪造为何重要？我们的文化日益围绕图像构建。我们在 Snapchat 和 Instagram 上记录生活，把 YouTube 当作百科全书。在 WITNESS，我们见证了图像对于揭露不公与有罪不罚现象的重要作用：从记录叙利亚内战的公民记者和活动人士，到“黑人的命也是命”运动围绕警察暴力的视觉证据凝聚起来。然而，我们在认知上也缺乏辨别图像真伪的能力，也难以在记忆中区分捏造内容与记忆中的现实。与此同时，大规模事实核查与验证机制才刚刚开始跟上伪造音频、图像和视频的发展。
我们如何应对深度伪造
首先，我们必须立足于已有成果。在人权和新闻领域，开源情报（OSI）已有成熟实践，用于检验图像的真实性以及在线来源的可信度。这一实践建立在过去十年对我们所谓“浅度伪造”的经验之上；WITNESS 的媒体实验室一直对此开展研究。所谓“浅度伪造”的例子包括：篡改视频音频以诋毁欧洲难民、在即时通讯应用中传播断章取义的视频以煽动群体暴力并引发“数字野火”，以及故意篡改视频以破坏战争罪调查。
我们必须让研发深度伪造新检测工具的研究人员与世界各地新闻编辑室中运用开源情报技术的记者建立联系。如果我们担心这些操纵工具被用于即将举行的选举，就需要支持跨公司协作的虚假信息防范工作，例如巴西目前开展的Comprova项目。新闻编辑室还必须继续相互支持，抵御“似是而非的可否认性”这一恶劣威胁：有人以深度伪造的存在为由，声称眼见耳闻皆不可信。
其次，我们应确保就用于应对深度伪造的技术基础设施提出正确的问题。对深度伪造的一种常见应对方式，是要求每张图像都具有清晰的来源记录，包括能够追溯至最初来源，并核查所做的任何编辑。区块链或其他形式的分布式媒体账本，常被纳入这一解决方案。
原则上，这听起来不错，但在实践中，如何实施会引发严肃问题——不仅涉及技术层面，也涉及如何避免造成新的伤害。例如，处于高风险情境中的人如何保护自己的身份，或撤销某项媒体认证，以免该认证日后给他们带来危险？我们如何避免不成比例的“棘轮效应”，即新技术的引入排斥没有最新工具的人？在当前的信息环境中，这些人可能是缅甸和巴西的人权捍卫者及公民记者，他们已经面临“假新闻”的指控。我们需要集中各方力量，促使从芯片制造商到平台在内的企业开展有意义的对话，探讨如何负责任地推进这项工作。
我们还必须处理社交媒体和视频分享平台上的内容审核问题。联合国言论自由问题特别报告员最近指出，平台应以国际人权法为其政策依据，包括保障言论自由，并提高决策过程的透明度。许多深度伪造内容将属于创意作品、个人交流或讽刺作品。恶意用途希望只占少数，我们不应作出可能导致哪怕少量内容被错误删除的决定。
这就引出了一个问题：合成媒体内容究竟是什么？我们要识别的是换脸，还是图像背景中的细微变化，抑或智能手机人像模式产生的模糊效果？平台需要更好地标示图像经过人工智能辅助操纵的情况。
平台有动力开展协作（并在必要时对可能造成迫在眉睫伤害的恶意内容作出处理），正如它们在打击暴力极端主义、垃圾信息和儿童剥削影像等问题上所做的那样。协作也有技术层面的动力。在制作这些人工智能操纵内容的过程中，造假者占有技术优势，直到某种特定手法出现足够多的案例，才能将其纳入检测方案。
检测领域近期的进展，包括FaceForensics数据库，都依赖人工智能接收训练数据，例如使用最新造假手法制作的图像。平台分享它们遇到的案例，就能获得检测操纵内容所需的最佳信息。它们还可以分享伴随深度伪造使用而出现的不良行为者活动迹象，例如使用机器人账号或其他操纵手段。否则，不良行为者就会利用最薄弱的一环——检测工具最差的平台。
最后，我们需要思考广大公众需要掌握哪些新技能，才能应对更容易伪造且更个性化的音频、视频和照片。与上述解决方案一样，这些技能应纳入更广泛的应对思路，帮助我们理解人们如何接触和分享错误信息与虚假信息。首先，我们需要研究如何帮助人们更好地评估足以乱真的视觉内容。我们还需要研究如何在用户会遇到这些内容的平台上改进用户体验：搜索引擎、社交网络、即时通讯应用和视频平台。
在 WITNESS 最近召集的一场威胁建模研讨会上，一位参与者建议，我们需要“增强人们的信心”，让他们相信自己能够辨别图像的真伪。其中一部分是让机器能够检测到的合成内容特征变得可见，因为我们知道人眼会失误——例如，用数字热力图显示被操纵的区域。
第一波深度伪造和恶意合成媒体很可能会在 2019 年席卷而来。我们有机会做好准备。
