在关于人工智能(AI)影响的讨论中,人们几乎总会提到古希腊神话中的潘多拉魔盒。在现代童话版本的故事里,潘多拉被描绘成一个悲剧性地充满好奇心的年轻女子,她打开了一个封住的罐子,无意中把永无止境的苦难释放到人类世界。与逃出瓶子的精灵、逃出马厩的马以及已经离站的火车一样,这个神话已经变成了一句陈词滥调。
然而,真正的潘多拉的故事与人工智能和机器学习的争论有关,其相关性远比许多人意识到的要强得多。它表明,比起那些容易被短期收益迷惑的“厄庇墨透斯”(Epimetheans),更应倾听那些关注人类未来的“普罗米修斯”(Prometheans)的意见。
潘多拉的故事是最古老的希腊神话之一,最早记载于2500多年前,即荷马时代。在最初的讲述中,潘多拉并不是一个因抵挡不住诱惑而打开禁忌罐子的天真少女。正如诗人赫西奥德所言,潘多拉是“被制造的,而非出生的”。她受全能的宙斯委托,并按照他残酷的规格由发明之神赫菲斯托斯设计,是一个被造得栩栩如生、看似迷人少女的仿人机器。她的使命是诱捕凡人,成为一种 kalos kakon:“隐藏在美丽之中的邪恶。”
潘多拉这个名字的意思是“全部的礼物”,反映了所有神明都参与了她的创造这一事实。在赫菲斯托斯的熔炉中完成创造之后,赫尔墨斯护送这位迷人的年轻“女子”来到人间,并将她作为新娘献给厄庇墨透斯。她的嫁妆是那个致命的封印罐子,里面装着更多的“礼物”。
厄庇墨透斯是普罗米修斯的兄弟,普罗米修斯是那位反叛的泰坦神,他捍卫了人类,据某些说法,他还创造了人类。普罗米修斯关注人类明显的脆弱性,因此教导男女如何负责任地使用火和其他工具。但这激怒了宙斯,这位无情的暴君曾嫉妒地独占着强大技术的使用权。作为惩罚,宙斯将普罗米修斯锁在岩石上,并派出同样由赫菲斯托斯锻造的、如无人机般的鹰去啄食他的肝脏。
就潘多拉而言,她是被刻意设计出来,用以惩罚人类接受普罗米修斯所赐之火的行为。她本质上是一个极具诱惑力的人工智能女性机器人,没有父母,没有童年记忆,也没有任何情感,而且永远不会衰老或死亡。她被编程执行一项恶意任务:潜入人间环境,然后打开那个罐子。
但这仍不是全部的故事。正如柏拉图所说,普罗米修斯的名字意为“先见”,因为他总是向前看;这与他无忧无虑的兄弟厄庇墨透斯形成对比,后者的名字意为“后见之明”。作为两人中更理性、也有充分理由保持警惕的一方,普罗米修斯曾试图警告兄弟不要接受宙斯的危险礼物。但厄庇墨透斯被潘多拉迷住,不假思索地将她迎入了自己的生活。直到后来,他才意识到自己犯下的可怕错误。
因此,潘多拉在罐中邪恶如云雾般涌出时惊恐后仰的流行形象,实为现代的发明。希望最后从罐中出现、以安抚人们心灵的那种甜腻形象,同样如此。在古典希腊的描绘中,潘多拉被刻画为一个狡黠的自动机:最著名的花瓶画中,她被描绘成一位年轻女子,僵硬地站立着,脸上挂着一种诡异的微笑。
此外,在古代,希望被拟人化为一位名叫埃尔庇斯(Elpis)的年轻女子,通常象征着缺乏远见。希望并非福祉,而是代表无法展望未来、无法在各种可能的结果中明智地做出选择的无能;她所代表的是一厢情愿的幻想,而非维系生命的乐观。对希腊人而言,她同样只是另一种kalos kakon:一种已被释放到人类身上的美丽邪恶。因此,至少有一位古代艺术家描绘了埃尔庇斯/希望的形象,与潘多拉颇为相似,带着一抹讥笑。
随着人工智能/机器学习迅速演变为一种“黑箱”技术,潘多拉那个被封印的罐子的象征意义有了新的内涵。不久之后,人工智能决策系统的运作逻辑将不仅对其用户,而且对其创造者来说都难以捉摸。在其他威胁中,人工智能系统遭恶意行为者入侵,或被恐怖分子和暴君利用的可能性,如今已日益凸显。
当Facebook创始人马克·扎克伯格、麻省理工学院的安德鲁·麦卡菲、微软的Lili Cheng以及其他人工智能乐观主义者向我们保证,人工智能将带来巨大的益处时,人们不禁会想到厄庇墨透斯和埃尔庇斯。我们真的能够相信人类会在人工智能所引发的问题出现时,对其进行调整并加以解决吗?
更明智的做法似乎是倾听现代普罗米修斯式思想家的意见,例如已故的斯蒂芬·霍金、微软创始人比尔·盖茨,以及另外115位科技领袖,他们于2017年公开谈及武器化人工智能和机器人的威胁。“我们没有太多时间采取行动,”他们警告道。“一旦这个潘多拉魔盒被打开,就很难再关上。”此外,这些普罗米修斯式人物的担忧也得到了呼应,谷歌联合创始人谢尔盖·布林以及乔安娜·布赖森、帕特里克·林等人工智能伦理学家也有类似看法,他们告诫人们要避免不计后果地接受人工智能的“礼物”,之前应先弄清如何控制它们。
近期的民调显示,对人工智能潜在益处的乐观情绪已显著下降,在那些实际从事人工智能系统开发的人群中尤为明显。对人工智能工作原理的了解似乎与更为现实的预期相关。与盲目的希望相比,基于知识和经验的远见,才应当指导我们如何管理这项技术的未来,以及我们与它的关系。



