本文是世界经济论坛地缘战略平台
该报告《武器系统自主性发展图谱》，呈现了一项为期一年的武器系统自主性发展图谱研究的主要发现和建议。
该报告旨在帮助关注致命性自主武器（LAWS）问题的外交官和公民社会成员，更好地了解自主性的技术基础，并掌握武器系统自主性的发展速度和趋势。报告提供了具体案例，可用于初步划定武器自主性进展可能引发技术、法律、作战和伦理担忧的界限。
该报告还总结了现有具备自主能力的武器的使用经验，为进一步研究有意义的人类控制可能具备的参数提供切入点。此外，报告旨在帮助外交官和公民社会成员找出切实可行的方案，以监测和监管LAWS领域新兴技术的发展。
自主性的技术基础是什么？
主要发现如下：
1 自主性有多种定义和解释，但通常指机器利用传感器与计算机程序同环境交互，在无人干预的情况下执行预定任务的能力。
2 自主性依赖多种技术，但主要依赖软件。自主性是否可行，取决于：(a) 软件开发人员能否将预定任务表述为数学问题并求得解答；以及 (b) 能否预先绘制或建模运行环境。
3 机器学习可以实现或提升自主性。机器学习在武器系统中的应用仍处于试验阶段，因为其可预测性仍存在根本性问题。
武器系统自主性发展到什么程度？
报告探讨了已部署武器系统和正在开发的武器系统的自主性现状。主要发现如下：
1.自主性已用于支持武器系统的多种能力，包括机动、目标瞄准、情报、互操作性和健康管理。
2. 自动目标识别（ATR）系统是一项使武器系统能够自主发现目标的技术，自20世纪70年代以来便已存在。ATR系统的感知和决策智能仍然有限。随着运行环境变得更加复杂、天气状况恶化，其性能会迅速下降。
3.现有能够自主发现并攻击目标的武器系统大多属于防御系统。这些系统在人类监督下运行，只有在交战时间被认为短到人类无法及时回应时，才会自主开火。
4.巡飞弹是已知唯一能够自主发现并攻击目标的“进攻型”武器系统。其巡飞时间、部署地理区域以及可攻击的目标类别均由人类预先确定。
推动武器系统自主性发展的因素和障碍是什么？
报告指出的主要推动因素包括：
1. 战略层面。美国近期将自主性列为战略能力评估和军事现代化计划的基石。这似乎引发了其他主要军事强国，尤其是俄罗斯和中国的反应。
2. 作战层面。军事规划人员认为，自主性使武器系统能够在战场上实现更快的速度、更高的精度、更强的持续能力、更远的作用范围和更好的协同。
3. 经济层面。人们认为，自主性有望降低武器系统的运行成本，具体而言，可通过更高效地使用人力来实现。
主要障碍包括：
1. 技术。自主系统需要具备更强的适应能力，才能在复杂、动态且对抗性的环境中安全可靠地运行；必须为具有适应能力或学习能力的系统制定新的验证与确认程序。
2. 制度性 阻力。军方人员往往不信任自主系统的安全性和可靠性；一些军事专业人员认为，发展某些自主能力直接威胁其职业理念，或与他们习惯的作战模式不相容。
3. 法律。国际法包含若干限制使用自主目标瞄准能力的义务。它还要求军事指挥部门在大多数情况下，对武器系统的行为保持某种形式的人类控制或监督。
4. 规范。公民社会反对将自主性用于目标瞄准决策的规范性压力日益增加，这使自主武器系统的发展可能成为军方和政府面临的政治敏感议题。
5. 经济。各国武装部队的承受能力有限，而大多数武器生产国的国防采购体系仍不适合自主性的发展。
相关创新发生在哪里？
报告探讨了推动自主性进展的创新生态系统。报告得出以下结论：
1. 在基础科学和技术层面，机器自主性的进步主要源于三个领域的研究：人工智能（AI）、机器人技术和控制理论。
2. 美国在自主性军事研究与开发（R&D）方面展现出的努力最为显著、系统，或许也最为成功。中国以及其他九个最大武器生产国中的大多数，都将人工智能和机器人技术列为重要的研发领域。其中一些国家正谨慎地追随美国的脚步，并计划开展以自主性为重点的研发项目。
3. 民用产业引领自主技术创新。最具影响力的参与者包括Alphabet（Google）、Amazon和Baidu等大型信息技术公司，以及已进军自动驾驶汽车领域的大型汽车制造商（如Toyota）。
4. 传统武器生产商确实参与了自主技术的发展，但这些公司可用于研发的资源远少于民用领域的大型商业实体所动员的资源。不过，国防公司的作用仍至关重要，因为商业自主技术很少能在不作修改的情况下用于军事领域，而且民用领域的公司往往对承接军事合同兴趣不大。
未来讨论的建议
报告提出八项建议，旨在帮助联合国新成立的LAWS政府专家组找到建设性讨论的基础，并有望在若干正在辩论的关键问题上取得切实进展。
1.讨论“武器系统中的自主性”如何发展，而不是将自主武器或LAWS作为一个笼统类别来讨论。
2. 将讨论重点从“完全”自主性转移开来，转而探讨自主性如何改变人类控制。
3. 将调查范围从目标瞄准问题拓展至考量自主性在协同作战（如蜂群行动）和情报处理中的应用。
4. 阐明机器学习的当前进展及其对自主性控制可能产生的影响。
5. 运用案例研究，将关于合法性、伦理和有意义的人类控制的讨论与武器系统的发展和使用现实联系起来。
6. 促进与民用领域的经验交流，尤其是航空航天、汽车和民用机器人产业，交流内容包括自主性定义、人类控制，以及自主系统的验证与确认。
7. 探讨如何确保未来监测并可能控制自主性致命应用发展的努力不会阻碍民用创新。
8. 探讨如何防范非国家行为体将民用技术武器化的风险。
