人工智能（AI）技术的兴起推动了深度伪造内容的使用，包括人工生成的视频、音频和图像。
尽管深度伪造有许多负面案例，这类合成内容也能带来益处。
共同了解合成内容，有助于识别危险的深度伪造，同时为这项技术创造积极的应用场景。
人们常说“眼见为实”，但深度伪造技术的出现改变了这一点。照片、视频和音频记录曾是证明事实真实的黄金标准，而如今，能够生成逼真（但虚假）媒体内容的新型人工智能（AI）模型，标志着人们判断内容是否可信的方式发生了范式转变。
“深度伪造”指经人工制作、仅以数字形式存在的文本、声音或图像——“深度”学习加上“伪造”输出。这类合成内容多年来一直在发展，但大型语言模型（LLM）和其他生成式人工智能问世后，催生了免费和低成本应用；使用这些应用几乎不需要技术技能。如今，任何能上网的人都可以使用合成数据生成器。
当然，这个精灵已经从瓶子里出来了，即使我们想把它塞回去，也无能为力。但对于这项技术的负面用途作出条件反射式回应，例如全面禁止或刻意“暂停”创新，并不能解决问题。与许多人工智能领域一样，合成内容正处于过渡期，其伦理规范和信任状况仍在变化。
此刻，我们身处合成内容这条湍急河流的一岸，未来则在对岸。我们必须搭建一座危害最小、益处最大的桥梁，同时避免被洪流冲走。建桥工作已经开始，政策制定者、企业领导者、技术专家等面临的挑战，是帮助社会安全地渡过这条河。这意味着要让这项技术变得普及、为人熟悉且值得信赖。
问题是，该怎么做？
超越深度伪造
一些广为人知的深度伪造案例已经造成不良后果：高中生制作同学的露骨图像，人工生成旨在误导受众的知名记者视频和音频，以及一张伪造的美国五角大楼遇袭图像，导致股市短暂下跌。公众已意识到这些风险。一项2023年的调查询问美国人对人工智能的担忧，60%的人表示他们“非常担心”深度伪造，这一比例高于对其他任何人工智能社会风险的担忧。
不过，看到合成媒体有正当且有益用途的倡导者和创新者，正在反驳最悲观的预测。一些公司正在提供一种“深度伪造即服务”的商业模式。电影制作人和内容创作者可能从中受益，也有一些更具想象力的应用，例如语言翻译——音乐人 FKA Twigs 已经制作了一个自己的深度伪造版本，可以用她的音色说不同的语言。合成数据虽然没那么引人注目，也正被探索用作人工智能训练中人类输入的替代品。
这些合成内容的当前应用方式展现了机遇与风险。但我们还需要放眼更宏大、更长远的未来，让合成内容生成器变得更加逼真、成本更低、使用更方便。没有一种单一方法可以消除合成内容的风险并放大其益处。与此前的其他技术一样，能否赢得社会信任将取决于合成内容的使用方式，以及围绕其开发设置的防护措施。
合成内容领域的责任分工
塑造并以可信方式使用合成内容的责任，必须由多个群体共同承担。
首先， 科技公司决定开发和发布哪些工具，因此它们的决定至关重要。例如，明知语音克隆工具可能被滥用，仍然部署它，这是否负责任？在全球一半人口将要参加民主选举的这一年，这尤其值得关注。全球一半人口将参加投票，参与民主选举。
更广泛的私营部门也有责任发挥作用。合成内容对私营企业有多种用途，从个性化客户互动到帮助员工远程参与工作。然而，如果客户觉得这项技术的使用方式欺骗了他们，或者员工认为它威胁到自己的工作或福祉，就会影响信任。
非政府组织、非营利组织、慈善机构和其他致力于社会公益的组织，也可以探索合成内容的商业应用如何促进公平、机会获取、技术信任和素养。这些组织面临的挑战，是重新构想合成内容的用途，使其能为所有人平等地创造社会价值。
在合成内容问题上，立法者和监管机构也处于重要位置。他们必须为一项变化速度快于审议进程的技术制定规则。不同层级的政府机构正试图制定法律（或重新适用现有法律），以规范合成内容的使用。但如果立法总是被动应对、彼此割裂，这种打地鼠式的方法可能收效甚微。政策制定者必须采取协调一致的战略方法，治理这项快速发展的技术。
最后，，公众也肩负双重责任。首先，他们必须提升人工智能素养，了解这项技术能做什么。这与人们通过提防电子邮件诈骗和恶意下载来学习参与网络安全，并没有太大不同。其次，公众需要认识到，应以有益的方式使用这项技术，这需要教育。这意味着家长教育孩子，雇主培训员工，公众人物向公众普及相关知识。
每个群体都面临一系列错综复杂的抉择，这些抉择累积起来，将决定未来合成内容是否值得我们信任。只要携手跨越深度伪造这座桥梁，我们就能为合成内容创造一个值得信赖的未来。
