汤姆·克鲁斯、巴拉克·奥巴马、里希·苏纳克和泰勒·斯威夫特有什么共同点？答案是，他们都曾是网上发布的深度伪造视频的主角。
深度伪造是利用人工智能生成的内容。它们可用于冒充真实的人，而且可以逼真到只有计算机才能识别其并非真品。
汤姆·克鲁斯的深度伪造视频在TikTok上迅速走红，原本旨在提供轻松的娱乐内容。据CNN报道，克鲁斯本人并未采取任何行动要求将这些视频下架。据CNN报道。
当深度伪造的乐趣走向终点
人工智能工具的激增，引发了人们对利用深度伪造毁坏声誉、干扰民主选举以及损害网上经核实的可靠信息来源公信力的严重担忧。世界经济论坛的《全球风险报告2024》《全球风险报告2024》将错误信息和虚假信息列为未来两年全球面临的头号威胁。
2024年2月，出现了一段音频深度伪造，它模仿了美国总统乔·拜登的声音。该音频片段被用于一通自动语音电话，针对的是美国新罕布什尔州的民主党选民。在这段伪造的录音中，可以听到一个由人工智能生成的拜登声音版本，敦促人们不要在该州的初选中投票。
世界经济论坛如何为人工智能建立防护机制？
人工智能卓越中心汇聚各行业领袖，帮助他们理解人工智能的快速演进及其对经济体和社会的影响。该中心支持就人工智能应用所涉及的机遇、风险和权衡取舍展开知情对话。
该中心通过可信赖的交流空间和合作性倡议，助力合作伙伴建立共同理解，并携手推动负责任的人工智能创新与应用。
2024年11月将举行美国大选，选情可能引发分裂。拜登似乎有望与唐纳德·特朗普竞选总统。在此背景下，美国有关部门正在起草新法律，拟禁止制作和传播冒充个人身份的深度伪造内容。
禁止深度伪造的立法举措
拟议中的法律由美国联邦贸易委员会（FTC）提出。该委员会警告称，先进技术正在推动被用于欺诈不知情公众的深度伪造急剧增长。
“欺诈者正在利用人工智能工具，以高度逼真的方式冒充个人，并且规模越来越大。随着语音克隆及其他人工智能驱动的诈骗手段日益增多，保护美国人免受冒充欺诈之害比以往任何时候都更加重要。”联邦贸易委员会主席莉娜·M·汗（Lina M. Khan）表示。“我们拟议对最终冒充规则进行扩充，正是为了实现这一目标，从而强化联邦贸易委员会的工具箱，以应对冒充个人的人工智能诈骗。”
尽管这些拟议法律旨在遏制诈骗者，但其范围也涵盖冒充政府和企业实体的行为。因此，如果并且当这些法律最终获得签署生效，它们可能为保护选举进程提供法律保障。
深度伪造与社会分化
2024年1月在达沃斯举行的世界经济论坛年会，其核心主题之一是重建信任。
深度伪造对公众信任的潜在影响极为深远。当它们被用于歪曲政治家、公民领袖和行业负责人的言行时，可能削弱人们对政府、媒体、司法系统和私营机构的信心。
随着公众对数字内容真实性的怀疑日益加深，这种怀疑可能导致普遍的公民参与度下降，并削弱知情的公共讨论。
论坛的数字信任倡议旨在应对上述负面影响，确保技术的开发和使用方式能够保护并维护社会的期望与价值观。论坛的全球数字安全联盟还倡导全社会共同参与的方式，动员政府、私营部门和公民团体共同提升媒体与信息素养，以打击虚假信息。
“开放和民主的社会依赖真实的信息才能运转，”世界经济论坛治理与信任负责人丹尼尔·多布里戈夫斯基（Daniel Dobrygowski）表示，“当新技术被用于加剧对真相和民主机构的攻击时，政府、私营部门和公民必须采取行动，以防范民主遭受数字破坏的可能。”多布里戈夫斯基补充道。
如何识别深度伪造
人工智能正在成为制作深度伪造的关键技术，同时它也为检测伪造内容提供了巨大潜力。斯坦福大学已开发出人工智能工具，能够检测口型同步处理过程。这类处理常被用来让人嘴里说出从未说过的话。
包括微软在内的大型科技机构已开发出帮助家庭安全上网的工具包。这些工具包括指南，帮助人们通过批判性思考并质疑所见内容是否真实，从而识别错误信息和虚假信息。
随着世界不断深入人工智能时代，控制其滥用的法律措施对于维护公众对信息和机构的信任至关重要。作为网络用户，我们或许都需要更频繁地向自己提出这样的问题：这是真的吗？
