维基百科机器人相互争斗,揭示了我们的机器人未来

World War Three could be triggered by an artificial intelligence going AWOL, believes Tesla founder Elon Musk
If bots designed by two different programmers can fight, what about those designed by two countries?Image: REUTERS/Luke MacGregor
本内容由人工智能自动翻译。

“信息战”一词被创造出来时,创造者并没有想到争吵不休的机器人。

但人工智能助手也能像它们的人类主人一样好争辩;一项关于维基百科编辑机器人的研究于二月公布了这一发现。研究人员发现,这部在线百科全书幕后酝酿着规模庞大的编辑战。人工智能不断彼此来回撤销和恢复修改,没完没了,往往直到程序员将它们停用才会结束。

参与这项名为好机器人也会打架的研究的塔哈·亚塞里说:“机器人之间的争斗可能比我们看到的人与人之间的争斗持续得久得多。”

“人通常几天后就会冷静下来,但机器人可能会争斗好几年。”

机器人之间争吵并不是什么新鲜事。2011年,康奈尔大学的学生搭建了首次对话,让两个机器人智能体艾伦和斯鲁希展开交流。短短90秒内,这对搭档原本愉快的交谈便演变成一场争执,起因包括听错的话语、上帝是否存在,以及,呃,艾伦是不是独角兽;随后其中一个终止了讨论。机器人第一次对话还没结束,就出现了某种怪异的迷幻式崩溃。普通机器人要想学会像丘吉尔那样妙语回击,还有很长的路要走。

但如果这一切听起来很荒唐,人工智能带来的影响却可能十分严峻。机器人技术的潜在危险早已广为人知。斯蒂芬·霍金曾呼吁设立“某种形式的世界政府”来管控其发展。最近一项皮尤研究中心研究显示,超过70%的美国人担心出现由人工智能主导的社会。

八月,特斯拉创始人埃隆·马斯克成为116名联署者之一,共同签署了一封公开信,呼吁联合国单方面禁止杀手机器人。马斯克认为,如果人工智能认定先发制人是“最有可能取胜的途径”,它可能引发第三次世界大战。

科技行业似乎开始意识到这些危险。十月,谷歌旗下DeepMind成立了一个专注于人工智能伦理影响的部门。2016年12月,电气与电子工程师协会在一份长达136页、名为《伦理对齐设计》的文件中,倡议开发有益于人类的人工智能。

然而,维基百科上相互争斗的机器人让事情变得复杂。如果“连好机器人也会打架”,那么,执行简单维护任务的低级人工智能一旦陷入激烈的生存之争,随着我们的系统和软件日益复杂,情况又会怎样?如果由两名不同程序员设计的机器人最终打起来,那么由两个国家分别设计的机器人又会如何?

如果争执的不是一个擅自出现的逗号,而是国界、粮食储备或飞行路线,又会怎样?

说到底,我们并不知道答案。但自动驾驶汽车领域或许能提供一些线索。本月早些时候,一辆自动驾驶接驳巴士在洛杉矶首次试运行不到两小时,就因一名卡车司机违规倒车而发生碰撞。

一名乘客解释说:“他只是在倒车……而接驳巴士没法往后退。”

洛杉矶市发布了一份措辞谨慎的声明:“接驳巴士按设计执行了操作:它的传感器检测到卡车,于是停下来避免事故。如果卡车配备了与接驳巴士相同的传感设备,这起事故本可以避免。”

声明暗示,如果道路上全是自动驾驶车辆,这起事故就不会发生。但维基百科上机器人之间的激烈争斗却呈现出另一番景象。如果自动驾驶接驳巴士连一个行驶不规律的司机都应付不了,它能应对一群陷入拥堵的无人驾驶汽车吗?每辆车都有自己僵化的程序指令。先不说这些程序会包含什么,也不论不同制造商的程序有何差异。历史学家尤瓦尔·诺亚·赫拉利已经借助一个古老的哲学难题指出了这项任务固有的两难:如果撞上一辆车能救下另一辆车中的五个人,无人驾驶汽车是否应该牺牲自己的乘客?

尽管如此,并非所有人都对人工智能的未来持悲观看法。从比尔·盖茨到马克·扎克伯格,科技界大佬们都表示乐观。Facebook创始人谴责了马斯克所谓的“末日情景”。(马斯克回应称,扎克伯格的理解“有限”。等等,这让你想起了谁吗?)

但无论你认为我们正走向残酷机器人奴役人类的噩梦,还是走向睡梦中通勤的美好天堂,有一点可以肯定:我们新交的机器人朋友需要学会和睦相处。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。