将文化恰当地融入人工智能

Shaolin martial arts students perform during the Zhengzhou International Shaolin Wushu Festival at Shaolin Temple in Dengfeng, Henan province, October 23, 2010. Some 1,200 martial arts athletes from all over the world are taking part in the festival which began on Friday, local media reported. Picture taken October 23, 2010. REUTERS/Donald Chan
AI will develop in a pan-global environment.Image: REUTERS/Donald Chan
本内容由人工智能自动翻译。

如果你像瑞普·凡·温克尔一样,沉睡了过去十年,刚刚醒来,那么你手里的翻盖手机如今已成为复古科技爱好者和生存主义者都热捧的产品;哦,对了,人工智能(AI)不是会杀死你,就是会拯救你。

人工智能是长期以来席卷社会的一连串科技热词中的最新一个。如果我们相信知名技术分析公司高德纳(Gartner Inc.)的人士所言,2018年将是人工智能真正融入我们日常生活的一年尽管波士顿动力公司(Boston Dynamics)正在研发的超现实机器人,或在中国公立学校部署人脸识别人工智能看起来可能令人不安,但这项技术是人类境况的产物,因此,我们正将自己的文化嵌入其编码DNA之中。

Image: 高德纳

目前,围绕人工智能的讨论聚焦于伦理。在文化研究中,伦理植根于价值观,并已成为探讨人工智能将如何融入我们生活的重要组成部分。尚未得到讨论的是:我们谈论的是谁的伦理,归根结底又是谁的价值观。

这是西方与东方之争,还是美国与其他所有人之争?文化中的价值观受社群和更广泛社会的影响,因此,伦理取决于社群价值观形成的文化背景。

“文化濡化”

因此,文化通过一种称为文化濡化的过程,在人工智能的形成中发挥着重要作用。

人类学家吉纳维芙·贝尔是英特尔副总裁和文化领域的思想先锋。她推动这家科技巨头更深入地理解文化与人工智能如何相互作用。

贝尔的研究表明,人类与技术的互动并非放诸任何文化背景皆然。它既非千篇一律,也非客观中立;无论有意还是无意,我们都将文化编码在技术之中,并贯穿其发展始终。

如果确实如此,那么人工智能发展过程中最终会形成怎样的文化?

在人类学家看来,人类文化演进有许多标志:对工具的运用、抽象思维的发展,以及更根本的、用于交流的语言的创造。

当两个或更多有生命的实体开始交流、交换信息,并逐渐进一步交换思想时,文化便开始形成。非人类人工智能实体之间的文化发展尚未得到讨论,更不用说人类文化与人工智能文化的融合了。

机器人开发出了自己的语言

最近,Facebook人工智能研究小组(FAIR)简要提到了一项实验:让两个机器人彼此协商。当时有报道称,机器人开始发展出一种更高效的语言,以便相互交流。

Facebook的计算机科学研究人员迅速叫停了两个机器人之间迅速演变为开发更高效人工智能语言的过程。他们并非担心人工智能自我创造的出现,而是因为机器人没有给出预期结果——用英语进行协商。

在一个代码本质上由0和1、是或否的指令构成的世界里,意外情况几乎没有发生的余地。但有时,我们应该拥抱机会、探索各种可能,因为文化并非只有一种表现形式。

文化由我们塑造。它是一套社会成员有意或无意共同认同的规范,并框定了我们日常生活中的行事方式。

人工智能能够吸收各种文化

未来,人工智能拥有一种独特能力:吸收世界各地所有文化规范和价值观,并发展出一种可能真正具有全球性的文化。但首先,作为人工智能的创造者,我们必须认识到自己的角色,以及我们如何影响它吸收文化的能力。毕竟,人工智能是一个缩影,映照出开发者的文化,也映照出那些为其基础数据框架提供输入者的文化。

科幻小说家阿拉斯泰尔·雷诺兹在其作品《赎罪之隙》中描写了一颗星球:那里唯一的智慧生物是一片广阔的海洋,它从在其中游弋的生灵身上吸收信息。海洋从这些信息中学习,再将所得知识重新分配给其他生灵。

书中将其称为“模式杂耍”。如今我们所熟知的人工智能形态与那片虚构的海洋十分相似:它吸收知识,再根据自身经文化濡化的数据有选择地分发知识。

以雷诺兹笔下吸收知识的海洋为例,如今的人工智能就像地球上彼此分隔的咸水和淡水水体,各自拥有独立的生态系统,互不相通。

当这些独特的生态系统开始彼此交流时,会发生什么?当各种人工智能实体开始交换信息,并在新形成的文化中协商现实,各项规范和价值观将如何确定?

诺曼敲响警钟

麻省理工学院的诺曼是一种人工智能人格,其原型是虚构的精神病患者,它给出了一个鲜明例证,印证了我们早已在人类身上认识到的现象:长期接触暴力会导致人们对文化规范和价值观产生支离破碎的看法。这对未来其他人工智能接触并传递此类内容构成了真实危险。

怎么说?

设想一下诺曼和Alexa连接起来。两种人工智能都代表着创造它们的人、它们所吸收的人类数据,以及内置的学习需求。那么,谁的文化价值观和规范会更具影响力?

诺曼被设计成用精神病患者的视角看待所有数据,而作为数字助理的Alexa只想取悦用户。人类中有无数例子表明,类似性格的人凑在一起可能会出问题。

社会科学家认为,关于人工智能的争论即将升温,因此多种版本的人工智能势必会共存。

随着哲学家、人类学家和其他社会科学家开始表达担忧,社会正值反思人工智能应发挥何种作用的时机:审视现实与我们的期待,并影响其发展,使之形成真正具有全球性的文化环境。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。