人工智能的潘多拉魔盒告诉我们什么

Children touch the hands of the humanoid robot Roboy at the exhibition Robots on Tour in Zurich, March 9, 2013. A project team composed of scholars and industry representatives developed the prototype of the tendon driven humanoid robot Roboy within nine months. Roboy was unveiled to the public today during the exhibition that is marking the 25th anniversary of the Artificial Intelligence Laboratory of the University of Zurich (AI Lab). REUTERS/Michael Buholzer (SWITZERLAND - Tags: SCIENCE TECHNOLOGY SOCIETY BUSINESS) - BM2E93916AH01
The myth has become a cliché.Image: REUTERS/Michael Buholzer
本内容由人工智能自动翻译。

在关于人工智能(AI)影响的讨论中,人们几乎总会提到古希腊神话中的潘多拉魔盒。在现代童话版本的故事里,潘多拉被描绘成一个悲剧性地充满好奇心的年轻女子,她打开了一个封住的罐子,无意中把永无止境的苦难释放到人类世界。与逃出瓶子的精灵、逃出马厩的马以及已经离站的火车一样,这个神话已经变成了一句陈词滥调。

然而,真正的潘多拉的故事与人工智能和机器学习的争论有关,其相关性远比许多人意识到的要强得多。它表明,比起那些容易被短期收益迷惑的“厄庇墨透斯”(Epimetheans),更应倾听那些关注人类未来的“普罗米修斯”(Prometheans)的意见。

潘多拉的故事是最古老的希腊神话之一,最早记载于2500多年前,即荷马时代。在最初的讲述中,潘多拉并不是一个因抵挡不住诱惑而打开禁忌罐子的天真少女。正如诗人赫西奥德所言,潘多拉是“被制造的,而非出生的”。她受全能的宙斯委托,并按照他残酷的规格由发明之神赫菲斯托斯设计,是一个被造得栩栩如生、看似迷人少女的仿人机器。她的使命是诱捕凡人,成为一种 kalos kakon:“隐藏在美丽之中的邪恶。”

潘多拉这个名字的意思是“全部的礼物”,反映了所有神明都参与了她的创造这一事实。在赫菲斯托斯的熔炉中完成创造之后,赫尔墨斯护送这位迷人的年轻“女子”来到人间,并将她作为新娘献给厄庇墨透斯。她的嫁妆是那个致命的封印罐子,里面装着更多的“礼物”。

厄庇墨透斯是普罗米修斯的兄弟,普罗米修斯是那位反叛的泰坦神,他捍卫了人类,据某些说法,他还创造了人类。普罗米修斯关注人类明显的脆弱性,因此教导男女如何负责任地使用火和其他工具。但这激怒了宙斯,这位无情的暴君曾嫉妒地独占着强大技术的使用权。作为惩罚,宙斯将普罗米修斯锁在岩石上,并派出同样由赫菲斯托斯锻造的、如无人机般的鹰去啄食他的肝脏。

就潘多拉而言,她是被刻意设计出来,用以惩罚人类接受普罗米修斯所赐之火的行为。她本质上是一个极具诱惑力的人工智能女性机器人,没有父母,没有童年记忆,也没有任何情感,而且永远不会衰老或死亡。她被编程执行一项恶意任务:潜入人间环境,然后打开那个罐子。

但这仍不是全部的故事。正如柏拉图所说,普罗米修斯的名字意为“先见”,因为他总是向前看;这与他无忧无虑的兄弟厄庇墨透斯形成对比,后者的名字意为“后见之明”。作为两人中更理性、也有充分理由保持警惕的一方,普罗米修斯曾试图警告兄弟不要接受宙斯的危险礼物。但厄庇墨透斯被潘多拉迷住,不假思索地将她迎入了自己的生活。直到后来,他才意识到自己犯下的可怕错误。

因此,潘多拉在罐中邪恶如云雾般涌出时惊恐后仰的流行形象,实为现代的发明。希望最后从罐中出现、以安抚人们心灵的那种甜腻形象,同样如此。在古典希腊的描绘中,潘多拉被刻画为一个狡黠的自动机:最著名的花瓶画中,她被描绘成一位年轻女子,僵硬地站立着,脸上挂着一种诡异的微笑。

Image: 大英博物馆,CC BY-NC-SA 4.0

此外,在古代,希望被拟人化为一位名叫埃尔庇斯(Elpis)的年轻女子,通常象征着缺乏远见。希望并非福祉,而是代表无法展望未来、无法在各种可能的结果中明智地做出选择的无能;她所代表的是一厢情愿的幻想,而非维系生命的乐观。对希腊人而言,她同样只是另一种kalos kakon:一种已被释放到人类身上的美丽邪恶。因此,至少有一位古代艺术家描绘了埃尔庇斯/希望的形象,与潘多拉颇为相似,带着一抹讥笑。

随着人工智能/机器学习迅速演变为一种“黑箱”技术,潘多拉那个被封印的罐子的象征意义有了新的内涵。不久之后,人工智能决策系统的运作逻辑将不仅对其用户,而且对其创造者来说都难以捉摸。在其他威胁中,人工智能系统遭恶意行为者入侵,或被恐怖分子和暴君利用的可能性,如今已日益凸显。

当Facebook创始人马克·扎克伯格、麻省理工学院的安德鲁·麦卡菲、微软的Lili Cheng以及其他人工智能乐观主义者向我们保证,人工智能将带来巨大的益处时,人们不禁会想到厄庇墨透斯和埃尔庇斯。我们真的能够相信人类会在人工智能所引发的问题出现时,对其进行调整并加以解决吗?

更明智的做法似乎是倾听现代普罗米修斯式思想家的意见,例如已故的斯蒂芬·霍金、微软创始人比尔·盖茨,以及另外115位科技领袖,他们于2017年公开谈及武器化人工智能和机器人的威胁。“我们没有太多时间采取行动,”他们警告道。“一旦这个潘多拉魔盒被打开,就很难再关上。”此外,这些普罗米修斯式人物的担忧也得到了呼应,谷歌联合创始人谢尔盖·布林以及乔安娜·布赖森、帕特里克·林等人工智能伦理学家也有类似看法,他们告诫人们要避免不计后果地接受人工智能的“礼物”,之前应先弄清如何控制它们。

近期的民调显示,对人工智能潜在益处的乐观情绪已显著下降,在那些实际从事人工智能系统开发的人群中尤为明显。对人工智能工作原理的了解似乎与更为现实的预期相关。与盲目的希望相比,基于知识和经验的远见,才应当指导我们如何管理这项技术的未来,以及我们与它的关系。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。