包括SpaceX创始人埃隆·马斯克以及谷歌DeepMind联合创始人穆斯塔法·苏莱曼在内的116位机器人学家和人工智能研究人员,已联署一封信致联合国,呼吁严格监管自主武器,即所谓的“杀手机器人”。尽管信中措辞较为谨慎,但随信发布的新闻稿称,该团体希望“在国际范围内禁止使用这类武器”。
其他联署者包括来自丹麦Universal Robotics、加拿大Element AI和法国Aldebaran Robotics的高管及创始人。
信中以严峻措辞描述了机器人武器的风险,并指出迫切需要采取有力行动。信件面向一组联合国官员,他们正在考虑将机器人武器纳入联合国的《特定常规武器公约》。该公约可追溯至1981年,目前与相关条约一道限制化学武器、致盲激光武器、地雷及其他被认为会“给战斗人员造成不必要或不合理的痛苦,或不加区分地伤害平民”的武器。
机器人战士或许可以减少人类士兵的伤亡——至少能减少最富裕、最先进国家士兵的伤亡。但对平民的风险才是马斯克最关注的问题,苏莱曼所在的团体也持相同看法。他们写道:“这类武器可能成为恐怖工具,被专制者和恐怖分子用来对付无辜民众,也可能遭黑客入侵,按不受欢迎的方式行事。”
信中还警告,若不迅速采取行动,杀手机器人领域将掀起一场“军备竞赛”——不过可以说,竞赛已经开始。包括以下公司在内的企业,已有自主武器系统或其前身技术投入使用或正在研发:雷神公司、达索、米格和BAE系统公司。
Element AI创始人约书亚·本吉奥还提出了另一项耐人寻味的警告:将人工智能用于武器,实际上可能“妨碍人工智能有益应用的进一步发展”。这正是弗兰克·赫伯特的科幻小说《沙丘》所设想的情景:在那个宇宙中,所有思考机器都被禁止,因为它们曾在过去的战争中发挥作用。
联合国武器问题小组原定于8月21日星期一召开会议,但据报道,会议已推迟至11月。



