借助开源人工智能和轻型机载处理设备，摄影无人机等民用设备可以被改装成致命性自主武器。
一旦商用无人机（UAV）的软件被改造成可用于致命目的，全球传播便不可避免，也没有切实可行的方法阻止这段代码扩散。
各国必须就防扩散措施达成一致，防止非国家行为体改造民用产品，制造数量极其庞大的武器。
大国之间围绕致命性自主武器系统展开的新一轮军备竞赛正受到广泛关注。旨在禁止此类武器的潜在条约谈判已经停滞，而相关技术仍在迅速发展。
人们较少关注这样一个事实：开源人工智能（AI）能力以及轻型、低功耗的机载处理设备，使人们能够将配备摄像头的四旋翼无人机等民用设备改造成“自制”自主武器。
自制致命性自主武器
非国家行为体如今可以部署自制遥控无人机，也可以部署类似巡航导弹、能够自行飞往指定目标地点并投放爆炸物的武器。例如，曾发生过一次涉及13架无人机对叙利亚俄军基地的袭击，以及一次针对伊拉克总理的刺杀未遂。《华盛顿邮报》报道称：“[伊朗]圣城旅曾向武装分子提供培训，教他们如何改装商用无人机[无人驾驶航空器]以用于军事目的。”
自制的全自主武器会成为下一个合乎逻辑的发展方向吗？此类武器可以躲避或摧毁防御系统，根据视觉特征定位并攻击目标，也可以利用面部或步态识别追踪并猎杀特定人员。
如今，商用无人机已经能够穿越障碍密集的区域，并锁定特定人员。一旦这类软件被改造成可用于致命目的，全球传播便不可避免。没有切实可行的方法阻止这段代码扩散。唯一可行的对策是防止作为基础的实体平台扩散。
目前似乎没有明显办法阻止少量自制自主武器的制造和使用。这类武器带来的威胁与少量遥控武器并无太大不同，而非国家行为体很容易部署后者。无论采用哪种技术，在“暴行式”袭击中，平民伤亡人数都可能从个位数增至两位数，甚至三位数。另一方面，由于无需通信链路（通信链路可能遭到干扰或被追踪），远程刺杀可能会变得更加难以应对。
然而，真正的威胁来自大规模武器：蜂群可能造成数万乃至最终数百万人的伤亡。如今，在企业活动上，使用3,000多架小型集中控制无人机进行特技飞行表演已日渐常见。目前，要让这类无人机实现完全自主，需要配备机载处理能力和电源，因此只有相对大型（约50厘米）的四旋翼无人机才能承载。不过，ASIC（内置全部人工智能功能的低功耗专用芯片）可能使直径仅几厘米的致命性自主武器成为现实。一百万个这样的设备可以装进一个标准集装箱。换言之，能够组装大量小型自主武器的实体可以制造大规模杀伤性武器。
因此，各国同意采取防扩散措施是合理的，这样非国家行为体就无法改造民用产品来制造数量极其庞大的武器。此类措施有充分的先例：例如，《核不扩散条约》关于核材料所有权和转让的规定，以及美国核管理委员会据此制定的详细规定，明确个人可以购买或持有多少铀；还有禁止化学武器组织制定的程序，以确保工业化学品不会被转用于武器生产。
具体而言，所有民用无人机制造商，例如四旋翼无人机和小型固定翼飞机制造商，都应采取措施，例如了解客户规则、地理围栏和硬件紧急停机开关。各国还可以运用情报手段，发现并阻止大批量囤积零部件或建立装配线的企图。全球人工智能专业协会也应采取政策并颁布行为准则，禁止开发能够自主选择杀人的软件。这些协会包括计算机协会、人工智能促进协会以及电气与电子工程师协会。
公众对致命性自主武器的支持度较低
随着遥控武器成为普遍的战争工具，确保它们不会因软件改动而轻易转为自主操作也很重要。一个小型恐怖组织只能部署少量遥控武器，但可以部署数量极多的自主武器，原因很简单：自主武器不需要人类飞行员。如果设计这类武器时让机载处理器与发射电路之间没有连接，就能大大增加将其改装为自主武器的难度。
当然，如果非国家行为体能够轻易直接从制造商那里获得致命性自主武器，那么全球防止民用技术被大规模转用于制造此类武器的努力就毫无意义。例如，土耳其STM公司销售卡尔古无人机。该机型于2017年公布，配备1.1千克弹头，据称具备“自主打击”能力、面部识别功能等。尽管实施了武器禁运，卡尔古无人机仍被交付给非国家行为体，并于2020年在利比亚投入使用，据联合国称。
如果阻止非国家行为体自行制造大规模杀伤性武器是合理的，那么阻止军火制造商代其制造也同样合理。换言之，世界主要大国完全有理由支持而非阻挠一项禁止开发、制造、部署和使用致命性自主武器的条约。
