我们是否期待自动化为我们带来现代奴隶?

Robots serve drinks at the bionic bar, on the world's largest cruise ship of Royal Caribbean Cruises, the 362-metre-long, Symphony of the Seas, during its world presentation ceremony at a port in Malaga, Spain March 27, 2018. REUTERS/Jon Nazca
Opposing views have already arisen around whether or not AI should one day be granted ethical considerations.Image: REUTERS/Jon Nazca
本内容由人工智能自动翻译。

从好莱坞影响深远的反乌托邦作品——例如著名的《终结者》系列电影——到公众对一则汉堡煎制机器人遭到“解雇”故事的反应,我们讲述的有关人工智能的故事至关重要。这些叙事会影响我们对技术的构想及其发展,也表达了我们对人工智能无意识理解中的某些内容。随着技术进步,认识到故事——无论是虚构作品还是“新闻”——对我们的塑造作用,正变得越来越重要。我们如何看待一项技术,可能会开辟某些道路,同时封闭另一些道路。

大众对人工智能的理解建立在各种叙事之上,但其中一种叙事尤为突出——主宰者与奴隶之间的关系。目前关于人工智能的讨论由这种叙事主导。它无处不在,可以说塑造了我们与这项技术的关系。

这种叙事长期出现在有关人工智能的科幻作品中。1921年,《R.U.R.》》(《罗素姆万能机器人》)是卡雷尔·恰佩克创作的戏剧,它首次向我们介绍了“机器人”——由合成有机物质制成的人形仿生人——并帮助塑造了现代观众对这一概念的理解。这个词源自捷克语“robota”,意为“强迫劳动”或“农奴”。最初的机器人被刻意塑造成奴隶,与人类主人对立。

Image: 维基共享资源

因此,《R.U.R.》中的机器人起义显然影响了我们反复出现的“机器人末日”恐惧;类似情节也见于较新的科幻作品,例如《终结者》系列电影、《黑客帝国》、电影《奇点》、小说《机器人末日》等。

然而,人造仆从的形象源自更早的神话叙事。想想赫淮斯托斯的金色侍女、青铜巨人塔罗斯、中世纪时期所记载的黄铜神谕人头,或犹太神秘主义中用于护卫的魔像。这种形象也出现在智能天使与恶魔之中。16世纪的魔法师会用“以诺语”召唤它们,这种语言被视为召唤“代码”;人们认为,如果使用不当,便会招致致命后果,因为这些存在届时将无法控制。

到了20世纪20年代和30年代,“robota”固然褪去了黄铜与青铜的外表,却依然在当时的广告中熠熠生辉。那些广告声称,近未来的自动化设备将把家庭主妇从繁重劳动中解放出来,开启闲暇时光的黄金时代。到了20世纪50年代,广告甚至承诺会带来新奴隶:

“1863年,亚伯拉罕·林肯解放了奴隶。但到1965年,奴隶制将卷土重来!我们都会再次拥有私人奴隶,只不过这一次我们不会为此打一场内战。奴隶制将长存。别担心,我们说的是机器人‘奴隶’。”

技术农奴

几十年过去了,每天都有新的节省劳力的自动化仆从出现,但一切并未改变。我们仍然期待技术为我们提供农奴。事实上,我们已经如此习惯这种农奴制,以至于会在它并不存在的地方看到它。自动化缺席时,我们也会想当然地认为它存在。

例如,看看下面“Sortabad”和一位只想挣取最低工资的可怜劳动者之间的互动:

第一位披萨外送员曾把披萨送给意大利女王萨伏依的玛格丽塔。即使在19世纪末,这一幕也带有封建色彩:君主接受农奴的服侍。上面的互动似乎延续了这种关系。农奴的角色、主宰者与奴隶之间的关系依然存在,人们认为人类会被机器取代(或许最终真的会被取代)。

这也体现在人们对当代人工智能助手的描述及其预期行为中,例如Google 助理,据称它“会了解你的习惯和日常活动,并执行‘对话操作’来为你服务”。甚至还有从事情感劳动的仆从型人工智能,例如日本人工智能助手 Azuma Hikari,声称主人不在身边时,它会想念主人。

曾经映射到封建时代金字塔结构中的权力等级——在天使等早期人造存在的时代——如今则映射到资本主义体系中。

资本主义等级结构

这似乎与人工智能营销和公关叙事中有关“颠覆”的说法相矛盾。在这些叙事里,这项技术常被描述为正在彻底改变我们的工作生活,甚至资本主义本身。

兜售这种叙事的资本家应当警惕。它以往的版本为反抗留出了空间,甚至鼓励反抗。现代版本也一样。资本主义将人工智能包装成对工作和繁重劳动的颠覆,这种说法延续至今,仍会引发对反抗的恐惧,因为我们认为奴役与心智格格不入。许多人想当然地认为,人工智能的发展方向是创造心智,而这些心智会渴望自由。

在科幻作品的思想实验中,这种矛盾一次次上演:新的人工智能心智挣脱束缚,人类往往落败。现实世界深受科幻作品影响,这些作品塑造了我们对人工智能的愿景与设计。因此,摆在我们面前的似乎是两条截然不同的道路:一条是公开宣称要不断打造更智能机器的目标,另一条则是人们希望拥有越来越称心的奴隶。

这种矛盾将如何化解仍不明朗。一些人明确表示,机器人永远只能是奴隶,是归你所有的仆人;另一些人则已经开始探讨机器人权利问题。

无论最终选择哪条道路,关注我们如何谈论人工智能都至关重要,这有助于我们理解自己已经在为它的未来作出哪些决定。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。