在全球一些最大的科学和工业组织支持下，科技行业领袖签署了一项全球承诺，反对开发使用人工智能（AI）的自主武器系统。
科技行业的工程师和科学家表示，他们将“既不参与，也不支持致命自主武器的开发、制造、贸易或使用”。
致命自主武器系统（LAWS），也称为“杀手机器人”，是指无需人类作出或授权相关决定，就能识别、瞄准并杀死人的武器。
这项承诺于2018年在斯德哥尔摩举行的国际人工智能联合会议（IJCAI）上发布。该会议是全球领先的人工智能研究盛会，参会者超过5,000人。承诺书由来自90个国家、从事人工智能（AI）和机器人技术的150家公司及2,400多名个人签署。
企业签署方包括 Google DeepMind、XPRIZE 基金会、伦敦大学学院、ClearPath Robotics/OTTO Motors、欧洲人工智能协会和瑞典人工智能学会。
个人签署者包括 Google.ai 研究主管 Jeff Dean、企业家 Elon Musk、人工智能先驱 Stuart Russell、Yoshua Bengio 和 Anca Draga，以及英国工党议员 Alex Sobel 和新南威尔士大学的 Toby Walsh。
伦理
悉尼新南威尔士大学（UNSW）的人工智能教授 Walsh 指出了其中的伦理问题。
他说：“我们不能把决定谁生谁死的权力交给机器。”
“机器没有作出这种决定所需的伦理判断能力。我鼓励你和你的组织签署承诺，确保战争不会因此变得更加可怕。”
这项由生命未来研究所组织的承诺，呼吁各国政府、学术界和工业界跟随他们的行动：
“我们，即下方签署者，呼吁各国政府及政府领导人，共同创造一个有着强有力的国际准则、法规和法律来反对致命自主武器的未来。……我们希望科技公司和组织，以及各界领袖、政策制定者和其他人士加入我们，共同作出这项承诺。”
麻省理工学院物理学教授、生命未来研究所所长 Max Tegmark 宣布了这项承诺。
Tegmark 说：“看到人工智能领袖从空谈转向行动，落实政界人士迄今未能实施的政策，我感到振奋。”
“人工智能有巨大的潜力帮助世界——前提是我们谴责并防止它被滥用。能够自主决定杀人的人工智能武器，和生物武器一样令人厌恶、会破坏稳定，应当以同样的方式应对。”
这项承诺以如下声明开篇：“人工智能将日益融入军事系统。公民、政策制定者和领袖亟须把人工智能的可接受用途与不可接受用途区分开来，这是一个紧迫的机会，也是一项必要任务。”
迫在眉睫的明确威胁
致命自主武器的坚定反对者、Clearpath Robotics 和 OTTO Motors 的创始人兼首席技术官 Ryan Gariepy 说：“Clearpath 一直认为，致命自主武器系统的扩散对世界每个国家的公民都构成迫在眉睫的明确威胁。无论多么强大，没有一个国家能够安全无虞。
“许多其他重要的自主系统公司和开发者也有与 Clearpath 相同的担忧。我们希望世界各国政府决定投入时间和精力，发展能让民众更健康、更安全、生产力更高的自主系统，而不是发展唯一用途就是部署致命武力的系统。”
支持国际社会禁用 LAWS 的人士担心，这类机器人将难以控制——更容易遭到黑客攻击，更可能流入黑市，也更容易被恐怖分子和专制统治者获取——从而可能破坏所有国家的稳定。
2016年12月，《特定常规武器公约》（CCW）缔约国审议大会开始正式讨论 LAWS。迄今为止，出席大会的26个国家已宣布支持某种形式的禁令，其中包括中国。
联合国下次关于 LAWS 的会议将于下个月举行。
承诺书全文
人工智能（AI）将日益融入军事系统。公民、政策制定者和领袖亟须把人工智能的可接受用途与不可接受用途区分开来，这是一个紧迫的机会，也是一项必要任务。
鉴于此，我们这些签署者一致认为，决定是否剥夺一个人生命的权力绝不应交由机器行使。这一立场也包含道德层面的考量：我们不应允许机器作出剥夺生命的决定，却由他人——或无人——承担责任。
此外，还有一个有力的现实层面理由：能够在无人干预的情况下选择并攻击目标的致命自主武器，将给每个国家和个人带来危险的动荡。数千名人工智能研究人员认同，致命自主武器消除了剥夺他人生命的风险、责任归属和难度后，可能成为暴力和压迫的有力工具，尤其是在与监控和数据系统相连时。
此外，致命自主武器的特征与核武器、化学武器和生物武器截然不同，单一团体的单方面行动很容易引发军备竞赛，而国际社会缺乏管理这种竞赛所需的技术工具和全球治理体系。谴责并防止此类军备竞赛，应当成为国家安全和全球安全的高度优先事项。
我们，即下方签署者，呼吁各国政府及政府领导人，共同创造一个有着强有力的国际准则、法规和法律来反对致命自主武器的未来。鉴于目前尚无此类准则、法规和法律，我们选择以高标准要求自己：我们将既不参与，也不支持致命自主武器的开发、制造、贸易或使用。我们希望科技公司和组织，以及各界领袖、政策制定者和其他人士加入我们，共同作出这项承诺。
