《武器系统自主发展的映射研究》中,研究人员展现了重要的研究结果及建议。该研究主要针对武器系统的自主发展,为期一年。

该报告旨在帮助那些对致命性自主武器感兴趣的人,让他们更全面地了解这些武器所使用的技术、进步的速度以及发展的方向。报告中有一些具体的例子,用于阐述武器自主性发展带来的技术、法律、操作和伦理问题。

该报告也是一个跳板。通过阐述现存自主性武器的使用经验,它为有意义的人类控制(meaning human control)所使用的参数奠定了研究基础。此外,该报告还能够帮助外交官和各国公民识别出现实可行方法,从而控制并监管致命性自主武器的技术发展。

“自主性”的技术支持

该报告的主要结论如下:

1. 虽然"自主性"有很多不同的定义和解释,但通常来说,它指的是机器能够通过各种传感器及电脑编程系统,对周围环境进行感知,从而在人类不干预的情况下完成指定任务。

2. 自主性依赖于繁多的技术,其中最根本的是软件支持。武器之所以能够实现自主性,是因为软件开发者利用各类数学问题及其答案制定了一份指定的任务,并预先映射或模型化各类运行环境。

3. 机器学习能够创造或改善自主性。不过,由于难以预测这个根本问题,目前武器系统内的机器学习功能仍处于实验阶段。

武器系统的自主性

该报告研究了自主性在已部署和发展中武器系统的使用状况。主要结论如下:

1. 在武器系统中,自主性可用于支持多项性能,包括移动、瞄准、情报搜集、互通和健康管理。

2. 自动目标识别系统可以让武器自动识别各类目标,这项功能首创于上世纪70年代。然而,自动目标识别系统的感知和决策能力有限。

3. 在喧嚣的运行环境和恶劣天气下,自动目标识别系统的表现也会相应恶化。

4. 目前,大多数能够自动锁定并攻击目标的武器系统都是防御型系统。防御性系统主要由人类监控,只有在系统认定人类无法反应的情况下才会自动开火。

5. 游荡武器是唯一一种可以自动锁定并攻击目标的攻击型武器系统。不过,人类需要提前部署游荡时间、游荡位置和可攻击目标种类。

武器系统自主性发展的驱动力和障碍

报告显示,主要驱动力如下:

1. 战略驱动力。最近,自主性已被美国认定为战略能力计算和军事现代化计划的基石。这一举动很可能会影响其他军事大国,尤其是俄罗斯和中国。

2. 操作驱动力。军事计划者认为,自主性能够让武器系统在战场上提高速度、准确性、持久度,并扩展打击范围与合作范围。

3. 经济驱动力。由于自主性能够更有效地运用人力,它有可能减少武器系统的运行成本。

主要障碍如下:

1. 技术障碍。自主性系统需要进行改进,从而在复杂、多变、对立的环境中更为安全、可靠地运行。同时,它还需要开发新的验证程序,从而适应或进行相关学习。

2. 制度障碍。军事人员往往不相信自主性系统的安全性和可靠性,其中一些人甚至认为,部分自主性功能的发展会直接威胁到他们的职业精神,并与他们习惯的操作范式格格不入。

3. 法律障碍。根据国际法,国家应当履行一系列义务,包括禁止使用自主性瞄准功能。同时,在大多数情况下,军事指挥部必须控制或监管武器系统。

4.规范障碍。社会正在施加越来越多的规范压力,反对自主性武器的瞄准决策功能。对军队和政府来说,公民施加的压力已经让自主性武器系统发展成为了潜在的政治敏感话题。

5. 经济障碍。国家武装力量的经济能力有限。在大多数生产武器的国家里,国防采办系统的程度并不能和自主性发展相匹配。

相关阅读:

创新成果

该报告研究了推动自主性发展的创新生态系统,如下:

1. 在基本的科技水平上,机器自主性的发展大多源于三方面的研究:人工智能、机器人技术、控制理论。

2. 美国表示,在自主性领域,美国可见、清楚且成功的军事研发程度居世界之首。在前十大武器制造国中,中国和其中大部分国家一致认为,在研发领域内,人工智能和机器人技术同样重要。其中一些国家暂定效仿美国,针对自主性开展研发项目。

3.民用工业是自主性技术的创新力量之一。在民用工业中,最具影响力的当属大型信息技术公司和研究无人驾驶的汽车生产商,如Alphabet(谷歌)、亚马逊、百度、丰田。

4. 传统武器生产商肯定会参与自主性技术的发展。相比于大型民用商业集团,它们投入研发的资源少之又少。不过,防御公司仍然是举足轻重的,毕竟商业自主性技术不太可能在未经修改的情况下直接运用到军事领域,而且民用公司一般也不会签署军事合约。

未来讨论方向的建议

在结尾部分,该报告提出了八项建议,旨在帮助联合国研究致命性自主武器的新政府专家小组提出更有建设性的讨论基础、通过商讨实现几个重要领域的可行性进展。

1. 讨论对象应是“武器系统中的自主性”,而非笼统的“自主性武器”或“致命性自主武器”。

2. 讨论重点应是自主性如何转化为人类控制,而非如何完全实现自主性。

3. 扩展讨论范围,研究联合作战(如集群作战)时如何应用自主性,而非局限于锁定目标方面。

4. 在自主性控制方面,阐明机器学习的现有进展和潜在发展。

5. 利用个案研究,将“合法性、伦理、有意义的人类控制的讨论”与“武器系统的发展现状和使用”联系起来。

6. 利用民用部门,尤其是飞机、汽车、民用机器人厂商,交流相关经验,尤其是在自主性、人类控制、自主性系统验证的定义方面。

7. 探寻各项方法,保证未来操纵或控制自主性技术致命性应用的发展不会抑制民用创新发展。

8. 探寻各项方法,防止非政府部分利用民用技术研制武器。

作者:Vincent Boulanin, Maaike Verbruggen

以上内容仅代表作者个人观点

本文由世界经济论坛和斯德哥尔摩国际和平研究所联合发布,转载请注明来源并附上原文链接

翻译:达沃斯博客翻译小组•叶枫

责编:景嘉伊

世界经济论坛•达沃斯博客是一个独立且中立的平台,旨在集合各方观点,讨论全球、区域及行业性重要话题。