多边体系亟需帮助建立新的社会契约，以确保技术创新，特别是人工智能（AI），在全球化的世界中得到安全部署，并与伦理需求保持一致。
机器人集群、Facebook暗帖和假新闻网站已经占据了网络空间，并在全球范围内产生了重大影响。仅以近期几件事为例：在2016年美国总统选举中，俄罗斯通过一场大规模运动扶植了一位候选人、打压了另一位，该运动包括付费广告、虚假社交媒体账号和极化内容。
在中国，科技巨头阿里巴巴和腾讯部署了数百万台配备面部识别功能的摄像头，将公民持续产生的私密数据商品化。在缅甸，一份联合国报告证实Facebook上的帖子助长了针对罗兴亚穆斯林的恶毒仇恨言论。
人工智能与数据驱动型社会之间强大而有利可图的联盟，已使社交网络成为我们交流的架构师，成为重塑现实本身结构的新主宰。
在此背景下，公众对失去对算法革命的控制的担忧日益加剧，这场革命似乎超出了我们的理解和问责方式。对国家和全球治理的信任已接近崩溃的临界点。
与此同时，人工智能驱动的技术往往会削弱而非强化全球治理机制。联合国面临一系列广泛且相互关联的挑战。让我们来看其中三项。
人工智能与真相的退化
首先，人工智能本质上是一种两用技术，其强大的影响（包括积极和消极两方面）将越来越难以预见、控制和减轻。
以深度伪造（Deepfake）为例。复杂的人工智能程序现在能够操纵声音、图像和视频，制造往往与原件难以区分的冒充内容。深度学习算法能够以惊人的准确度读取人类唇语、合成语音，并在一定程度上模拟面部表情。
一旦这些模拟技术走出实验室，就很容易被滥用，并产生广泛影响（事实上，这种情况已经发生，只是规模较小）。在选举前夕，深度伪造视频可能会错误地描绘公职人员涉及洗钱；视频可能散布关于并不存在的疫情或网络攻击的警告，从而引发公众恐慌；伪造的事件则可能导致国际局势升级。
各类行为体利用误导性模拟内容影响公众舆论的能力，可能对联合国在和平与安全方面的作用产生深远的长期影响。通过侵蚀公民与国家之间，乃至各国之间的信任和真实感，真正的假新闻可能对我们的全球治理体系产生深度腐蚀作用。
人工智能与精准监控
其次，人工智能已经与包括生物技术在内的一系列其他技术相互连接并加速融合，这对全球安全具有重大影响。世界各地的人工智能系统经过训练，通过分析海量数据集来预测我们日常生活的各个方面，这些数据集包括城市交通模式、金融市场、消费者行为趋势数据、健康记录，甚至是我们的基因组。
这些人工智能技术越来越能够以创新且往往具有操纵性的方式利用我们的行为和生物数据，这对我们所有人都有影响。例如，“我的朋友Cayla”智能玩偶会将与之玩耍的儿童的语音和情绪数据发送到云端，此举引发了美国联邦贸易委员会的一项投诉，该玩偶也因此在德国被禁。在美国，情绪分析已在法庭上用于在证词视频中检测悔意。该技术未来可能很快会被用于求职面试，以评估候选人的回答及其是否适合某一职位。
人工智能侵入乃至可能控制人类私人行为的能力，直接关系到联合国的人权议程。新形式的社会与生物控制实际上可能需要重新构想目前用于监督和落实《世界人权宣言》的框架，并且必将要求多边体系更好地预见和理解这一快速兴起的领域。
战场人工智能
最后，人工智能驱动的技术对大规模人群施加影响的能力具有如此直接且压倒性的价值，几乎可以肯定它将成为未来冲突的主战场。一场“网络竞赛”极有可能真实发生，在这场竞赛中，强大的国家和大型科技平台将围绕我们的集体数据展开公开竞争，将其作为在全球范围内实现经济、医疗和安全霸权的燃料。随着强国能够利用人工智能和生物技术来了解乃至可能控制其他国家的人口和生态系统，“网络殖民”的形式日益可能出现。
迈向人工智能的全球治理
在政治、法律和伦理层面，我们的社会尚未为人工智能的部署做好准备。而联合国成立于这些技术出现的数十年前，在许多方面并不适合发展出那种负责任的治理模式，难以引导人工智能的潜力远离这些风险，转而服务于我们的集体安全与福祉。
事实上，民族主义议程的重新抬头在全球范围内的兴起，可能表明多边体系在人工智能全球治理中发挥实质性作用的能力正在减弱。主要企业和有影响力的成员国可能认为，将多边方式应用于其视为有利可图且属于专有技术的领域，价值不大。
不过，联合国可以通过一些创新方式，帮助建立协作、透明的网络，从而有望开始化解我们的“信任赤字症”。
受《秘书长新技术战略》中赋予联合国大学（UNU）的任务推动，《秘书长新技术战略》，联合国大学政策研究中心创建了“人工智能与全球治理平台”，作为一个包容性空间，供研究人员、政策行为体、企业界和思想领袖探讨人工智能所引发的全球政策挑战。
该平台汇集了该领域领军人物的全球投稿，旨在从多边主义的视角，结合来自一线的经验教训，形成独特的跨学科见解，为现有辩论提供参考。这些见解将支持联合国会员国、多边机构、基金、计划署及其他利益相关方，助其思考自身及集体在塑造人工智能治理中所应承担的角色。
在此背景下，联合国面临的最重要挑战或许在于相关性问题，即重新建立对多边体系的信任。但如果上述趋势能说明什么，那就是人工智能驱动的技术关乎每一个个人和每一个国家，而如果没有集体、协作式的治理形式，它们很可能真正破坏全球稳定。
