本月早些时候，研究人员开发出一种人工智能驱动的恶意软件，可用于入侵医院的 CT 扫描影像，生成虚假的癌症影像，连最有经验的医生也会受其蒙骗。如果这种恶意软件进入当今医院的网络，健康人可能会因并不存在的肿瘤而接受放疗或化疗，而早期癌症患者则可能因误诊被送回家。如今，关于癌症、血栓、脑部病变和病毒治疗的医学知识都可能遭到操纵、篡改和破坏。这只是一个例子，说明“数据投毒”——即操纵数据以欺骗他人——如何威胁我们最关键的基础设施。如果我们不能共同认识到人工智能如何与其他技术融合，催生新型且迅速演变的威胁，那么陷入噩梦的可能远不止就医经历。
政策制定者需要开始与技术专家合作，更好地了解人工智能与其他军民两用技术及关键信息系统结合所带来的安全风险。否则，他们就必须做好准备，应对新型自动化数据投毒和网络攻击造成的大规模经济与社会危害。在人工智能与网络冲突日益增多的时代，我们比以往任何时候都更需要多边治理体系。
数据攻击是 21 世纪的核武器。谁控制领土远不如谁控制数据重要；控制数据的一方有能力操纵民众的内心和思想。人工智能驱动的算法可以篡改数据，影响信念、态度和诊断结果以及决策，对我们的日常生活产生越来越直接的影响。对于那些企图在我们的体系中散布欺骗和不信任的人来说，数据投毒是一种新型且威力极大的工具。
人工智能与其他技术的融合加剧了这一风险：数据投毒可能很快就会侵入全国范围的基因组数据库，并可能将生物研究武器化、核设施、制造业供应链、金融交易策略和政治话语。遗憾的是，这些领域大多各自为政，缺乏对新技术如何通过融合在全球范围内造成系统性风险的深入认识。在一份新报告《融合风险的新地缘政治：人工智能时代的联合国与预防》中，我探讨了这些相互关联的风险，制定了若干情景，说明新兴技术在未来一段时期可能如何发展，并为多边体系提出前进方向，帮助预防由人工智能融合引发的大规模危机。
融合风险：数据投毒、无人机蜂群与自动化生物实验室
以下是一种可能出现的情景：
1. 数据投毒：与伪造医院 CT 扫描影像类似，恶意行为者可能利用机器学习算法，对自动化生物技术供应链发动数据投毒攻击。随着生物实验越来越多地由人工智能软件运行，恶意软件可能篡改工程指令，导致重要的抗生素、疫苗和昂贵的细胞疗法库存受到污染。
2. 基因工程：云端实验室让你坐在电脑前，就能从世界任何地方控制多达 50 种生物实验。黑客可能利用这种自动化工作流程，改变大肠杆菌的基因构成，使其成为一种耐多药生物制剂。
3. 投放：下一步，黑客可能利用现成的无人机并为其配备喷雾装置，在供水系统或农场中传播这种耐多药细菌。农民已经在使用无人机向农作物喷洒杀虫剂。
4. 虚假叙事：最后，黑客可能用有关抗生素遭污染的警告信息淹没社交媒体，在受影响人群中制造恐慌和混乱。
数据投毒、生物制造武器化以及战略信息操纵结合起来，将给经济造成巨大损失，并可能导致民众死亡，也会严重影响社会福祉。然而，破坏性最大的影响将落在公民的信任上——他们对治理机构、应急数据系统、工业实验室、食品供应链、医院和关键基础设施的信任。
人工智能与网络冲突：脆弱国家与民众
新型隐蔽数据投毒攻击的影响远远超出生物安全和生物安保范畴。各类行为者影响公众舆论、破坏政治、金融和关键机构稳定的能力，可能对和平与安全产生重大且长期的影响。
国家或非国家行为者已经能够制作高质量伪造内容，针对特定族群或宗教群体煽动暴力和歧视。在缅甸，一份联合国报告证实，Facebook 帖子助长了针对罗兴亚穆斯林的恶毒仇恨言论。2018 年夏季在印度各地，包括 Facebook 和 WhatsApp 在内的社交媒体平台上出现了操纵性信息，将某些群体描绘成绑架儿童的责任方。由此引发的歇斯底里造成 30 多人死亡，许多人受伤。随着现实与欺骗之间的界限日益模糊，围绕虚假叙事大规模动员人员、资源和武器的可能性也在增加。
数据操纵对网络安全和人身安全的影响具有腐蚀性；混合威胁的范围不断扩大，攻击面也随之扩展。每个国家都可能成为目标，尤其是那些技术基础设施和网络基础设施薄弱、脆弱且陈旧的国家。
由于脆弱国家无法预防和缓解数据投毒攻击，它们可能成为网络雇佣兵、恐怖组织及其他行为者的理想活动场所，进而不断损害数据完整性和全球化情报体系的稳健性。
数字鸿沟和网络安全鸿沟不断扩大，可能催生一种新的不平等与不安全地缘政治格局。要应对这些挑战，国际社会需要共同认识新兴安全风险，并通过激励机制推动采取共同的预防方法。
战略前瞻的必要性
这些严峻情景表明，我们需要共同制定战略前瞻，研判人工智能融合带来的各类全球风险。过去一年，我与联合国大学政策研究中心合作，着手开展这项工作，并帮助联合国提升前瞻能力。
企业和政府领导人应跨技术领域开展综合前瞻分析，预测并缓解可能利用数据操纵、针对关键基础设施的新兴威胁。例如，我们已经知道，数据中心（如医疗数据库或银行系统）和云环境（如云端生物实验室）极易遭受数据投毒及其他类型的对抗性网络攻击。前瞻工作必须纳入与全球南方国家的合作。
从操纵有关疫苗或基因疗法安全性的数据，到针对金融机构健康状况开展虚假信息宣传，人工智能与网络冲突的攻击面广泛而复杂。政府亟须与私营部门合作，建立更高效的预警系统，以发现并分析数据伪造和定向宣传的来源。各国需要持续描绘这些新型欺骗工具如何影响公共话语和舆论，还需要在广大民众中提升网络安全和（生物）技术素养。
我坚信，面对这些新技术带来的普遍威胁，单边或双边解决方案都无济于事。我们必须共同提升理解新兴全球安全风险的能力，否则这种能力本身也可能受到侵蚀。
