埃隆·马斯克领衔116位专家呼吁禁止自主武器

The humanoid robot AILA (artificial intelligence lightweight android) operates a switchboard during a demonstration by the German research centre for artificial intelligence at the CeBit computer fair in Hanover March, 5, 2013. The biggest fair of its kind open its doors to the public on March 5 and will run till March 9, 2013. REUTERS/Fabrizio Bensch (GERMANY - Tags: BUSINESS SCIENCE TECHNOLOGY) - RTR3ELOF
The campaign to stop 'killer robots' is calling on the United Nations for strict oversight of autonomous weapons.Image: REUTERS/Fabrizio Bensch
本内容由人工智能自动翻译。

包括SpaceX创始人埃隆·马斯克以及谷歌DeepMind联合创始人穆斯塔法·苏莱曼在内的116位机器人学家和人工智能研究人员,已联署一封信致联合国,呼吁严格监管自主武器,即所谓的“杀手机器人”。尽管信中措辞较为谨慎,但随信发布的新闻稿称,该团体希望“在国际范围内禁止使用这类武器”。

其他联署者包括来自丹麦Universal Robotics、加拿大Element AI和法国Aldebaran Robotics的高管及创始人。

Image: 停止杀手机器人运动

信中以严峻措辞描述了机器人武器的风险,并指出迫切需要采取有力行动。信件面向一组联合国官员,他们正在考虑将机器人武器纳入联合国的《特定常规武器公约》。该公约可追溯至1981年,目前与相关条约一道限制化学武器、致盲激光武器、地雷及其他被认为会“给战斗人员造成不必要或不合理的痛苦,或不加区分地伤害平民”的武器。

机器人战士或许可以减少人类士兵的伤亡——至少能减少最富裕、最先进国家士兵的伤亡。但对平民的风险才是马斯克最关注的问题,苏莱曼所在的团体也持相同看法。他们写道:“这类武器可能成为恐怖工具,被专制者和恐怖分子用来对付无辜民众,也可能遭黑客入侵,按不受欢迎的方式行事。”

信中还警告,若不迅速采取行动,杀手机器人领域将掀起一场“军备竞赛”——不过可以说,竞赛已经开始。包括以下公司在内的企业,已有自主武器系统或其前身技术投入使用或正在研发:雷神公司、达索、米格和BAE系统公司。

Element AI创始人约书亚·本吉奥还提出了另一项耐人寻味的警告:将人工智能用于武器,实际上可能“妨碍人工智能有益应用的进一步发展”。这正是弗兰克·赫伯特的科幻小说《沙丘》所设想的情景:在那个宇宙中,所有思考机器都被禁止,因为它们曾在过去的战争中发挥作用。

联合国武器问题小组原定于8月21日星期一召开会议,但据报道,会议已推迟至11月。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。