深度伪造是经过操纵的合成媒体，会以虚假方式呈现个人说出或做出其从未说过或做过的事情。
深度伪造可用于传播错误信息、损害声誉，甚至影响选举。
目前，全球尚无监管框架来规范深度伪造的使用。
俄罗斯入侵乌克兰不到一个月后，社交媒体上出现了一段视频，据称显示乌克兰总统弗拉基米尔·泽连斯基敦促士兵放下武器、停止对俄作战。视频中的唇形同步看起来颇为逼真，但泽连斯基先生的口音、面部动作和声音均有不符之处，引发了人们对视频真实性的怀疑。
仔细查看后，一张简单的截图就揭示出，这段视频确实是伪造的——一段深度伪造视频。这是已知首次有人在战争背景下使用深度伪造视频。
深度伪造是经过操纵和篡改的合成媒体，包括音频、图像或视频，会以虚假方式呈现个人说出或做出其从未说过或做过的事情。
世界经济论坛如何为人工智能构建护栏？
人工智能卓越中心汇聚各行业领导者，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关机遇、风险与权衡开展知情对话。
通过可信赖的交流平台和协作倡议，该中心助力合作伙伴形成共识，并携手探索负责任的人工智能创新与应用方式。
6月5日，俄罗斯总统弗拉基米尔·普京宣布在与乌克兰接壤的地区实施戒严和军事动员，并通过俄罗斯多个广播和电视网络发布了这些措施。但很快人们发现，普京先生的讲话也是伪造的——黑客入侵电视和广播频道后播放的一段深度伪造内容。该视频极具迷惑性，以至于别尔哥罗德地区的俄罗斯官员发出警告，提醒民众不要落入这段深度伪造内容的圈套；其意图是“在别尔哥罗德的和平居民中制造恐慌”。
深度伪造的兴起生动地体现了人工智能的指数级增长，以及它给国家和国际治理带来的挑战。深度伪造技术以2014年生成对抗网络（GAN）这一机器学习框架的发明为基础，旨在让两个神经网络相互竞争，从而创造新内容。
到2018年，GAN技术已发展到能够生成高度逼真的图像，例如描绘现实中从未存在过的人物。2017年秋季，首批深度伪造视频被上传至Reddit。这些早期深度伪造视频将好莱坞女演员的面孔合成到成人影片演员的身体上。不到两年，网上已发现近15,000段深度伪造视频，其中令人震惊的是，96%属于成人内容。此外，这些视频中描绘的受害者100%都是女性。
令人不安的是，今年早些时候有报道称，恋童癖者如今正利用深度伪造技术制作儿童性虐待影像。加拿大魁北克省一名恋童癖者最近被判有罪，警方在其电脑上发现了545,000张儿童照片和视频，其中86,000份是利用从社交媒体（尤其是Facebook）收集的真实儿童图像生成的深度伪造内容。
深度伪造技术还展现了其潜力，可被用于剥削个人以外的其他恶意目的。它可以篡改医学扫描影像，制造虚假肿瘤或移除真实肿瘤；也可以操纵卫星图像，伪造整片地理地貌，即所谓的地理深度伪造。其影响深远，不仅威胁个人隐私，也给医疗保健和国家安全等多个领域带来风险。
2022年11月30日，美国人工智能研究实验室OpenAI发布了人工智能聊天机器人ChatGPT。短短五天内，ChatGPT便吸引了五百万用户。Netflix用了三年半才达到同一里程碑。仅两个月后，该应用的用户数就达到1亿，成为历史上增长最快的消费类应用——直到本月被Meta的Threads应用超越。ChatGPT的首个版本（ChatGPT 3.5）在美国统一律师资格考试中的成绩平平（处于第10百分位），而后续版本ChatGPT 4于2023年3月14日发布，其表现超过了90%的律师资格考试应试者。
在最近的一项实验中，麻省理工学院副教授兼日内瓦安全政策中心（GCSP）博学研究员凯文·埃斯维尔和他的学生使用GPT-4等免费开放的“大型语言模型”算法，制定了一份获取极其危险病毒的详细路线图。仅用一小时，聊天机器人就提出了四种可能引发大流行的病原体，提供了利用合成DNA生成这些病原体的说明，甚至推荐了不太可能筛查订单的DNA合成公司。他们的结论令人警醒：轻易获得人工智能聊天机器人，将导致“有能力杀死数千万人的人数大幅增加”。
生成式人工智能日益普及带来的不仅是机遇，也有巨大风险，包括针对个人的定向操纵。最近一项研究发现，人工智能生成的患者咨询回复，在质量和共情方面都优于医生的回复。共情是人类特有的能力，即从他人的角度而非自己的角度理解其感受；如今，聊天机器人在这方面已胜过人类。这应当为各国政府敲响警钟，因为它为潜在的大规模颠覆行动打开了大门，并催生了一种新型战争——认知战，即将公众舆论武器化，以影响政策并动摇公共机构。生成式人工智能和ChatGPT等工具很快可能被视为大规模欺骗武器。
这些例子凸显了人工智能飞速发展的指数级速度。挑战在于，人类和组织在思考未来发展时往往倾向于线性思维。面对指数级增长，例如新冠疫情的迅速蔓延，许多政府往往反应迟缓，措施也不合时宜。
在新兴指数级技术定义的时代，全球和国家治理必须作出调整，以提升应变能力并加强前瞻性。战略预见，即设想并采取行动应对潜在未来的能力，应成为所有参与国家和全球治理的组织的常规做法。这要求这些机构的工作人员具备多样化技能和背景。此外，要有效应对指数级技术变革的后果，就必须具备识别微弱信号的能力。这凸显了培养博学者的必要性——他们拥有跨领域知识，能够摆脱孤岛式思维和群体迷思。
7月18日，联合国安理会将首次召开会议，讨论人工智能对国际和平与安全构成的潜在威胁。联合国已经在处理这一问题的某些方面，例如通过关于致命性自主武器（LAWS）的政府专家组（GGE），审视自主武器对国际人道法的潜在影响，以及可能的监管措施或禁令。然而，自主武器也对战略稳定产生深远影响，而GGE几乎没有讨论这一领域。
人工智能是一种军民两用技术，其变革性甚至超过电力，因此对国际安全有着深远影响。联合国秘书长最近表示支持成立联合国人工智能机构，类似于国际原子能机构。此类机构以知识为基础并拥有监管权力，可加强全球迅速发展的人工智能倡议之间的协调，并推动人工智能领域的全球治理。
然而，要取得成功，联合国必须超越传统的政府间机制，将科学界、私营部门（人工智能创新的主要来源）和民间社会纳入新的治理框架，包括公私合作伙伴关系。正如最近在日内瓦举行的联合国“人工智能造福人类”全球峰会上所提到的，该市拥有适合此类倡议的治理生态系统，是实现这一愿景的理想地点。
深度伪造和生成式人工智能带来的难题，发人深省地提醒我们，人工智能力量强大，并带来多层面的安全挑战。在推动负责任的人工智能治理时，我们必须优先防范恶意利用，同时营造鼓励合乎伦理的创新和社会进步的环境。
拥抱战略预见、摆脱线性思维、促进多元协作并将安全融入设计，是携手塑造人工智能赋能未来的关键步骤。这样的未来应坚守伦理原则、维护民主价值，并在变革性技术发展的大背景下保障人类福祉。沿着这条道路前行，我们能够在人工智能时代建设一个更加公平、安全、繁荣的社会。
