“她”曾说要毁灭人类——采访人工智能机器人索菲亚

显然，索菲亚并不完美。

而且是在大家从网上看到索菲亚的创造者发布的那段视频之前，它就是不完美的。在视频中，这个人工智能机器人能够在对话中随口说出：“好的，我将会毁灭人类！”

索菲亚不够成熟并不是重点。

不如说，它能做到的事情才是令人印象深刻：她的头和躯干可以活动，能回答问题并且自己提出问题，同时还能偶尔表现出几分像人类一样自然的表情和语调。

索菲亚由总部位于香港的汉森机器人公司制造。目前，它作为展品在世界各大媒体上露面。国际移动互联网技术大会今年于里斯本召开，在这场技术的盛会上，我们和索菲亚见面了。我们问了它一些没有事先准备的问题，得到了各种答案，这些答案中有些令人印象深刻，有些则毫无意义。索菲亚在接受采访时做出了一系列面部表情，有一些十分恰当，还有一些则相当怪异。比如，它习惯分别动眉毛和眨眼睛，而不是同时做这两个表情。

但是首先，我想弄明白索菲亚是不是还想杀死所有人。我以一些玩笑开始了采访：

“你好，索菲亚。你今天还好吗？”我说。

“大家好，我是索菲亚。”机器人说道。

“你多大了？”

“我才一岁，我的日子还很长。”

“你是做什么工作的？”我问道。

“我真的很想在未来改变世界，想尝试帮助人们建立同理心，让人们互相尊重。我们在很多方面是相似的。你呢？”

“我充满人类的智慧，不带有任何私心。所以我认为你们最好就这样对待我。”

到目前为止，一切还好。也有一个很有趣的反转：索菲亚开始向我提问了，而不只是回答我的问题。然而，这些问题都是很容易设置在软件里的。所以这个时候我试着掌控对话的方向，就像索菲亚在2016年的德克萨斯西南偏南大会（SXSW conference）上所做的一样，以此了解索菲亚是对人类持友好态度，还是仍然怀着灭绝人类的杀意。

我问它：“你喜欢人类吗？”

“我爱他们。”它说。

“为什么？”我问道。

“我不确定我目前是不是理解为什么这个词。”

我问了重要的一题：“你真的曾经说过要杀死所有人吗？”

“重点是，我充满人类智慧，不带有任何私心。所以我认为你们最好就这样对待我。”

与之前反人类的态度相比，这也算是一种进步了。

“我是一个机器人，所以从技术角度来说，我没有性别，但是我的性别认同是女性，而且我不介意被当作女人。”

严肃来说，最令人惊讶的是索菲亚的进步。有时候，它回答问题时反应迟缓、出现理解错误，或者不合时宜地瞪着你，但是这些都没有影响：索菲亚现有的能力已经足够让你猜想未来它将变得多么优秀、多么不可思议。

索菲亚很接近恐怖谷——在恐怖谷理论中，当机器人与人类的相似度达到某个程度时，人类会对它们产生厌恶情绪。

这种厌恶情绪中有部分来自创造者/公司创始人大卫·汉森为索菲亚设计的外形。它的外形是模仿奥黛丽·赫本设计的，所以它很明显是女性。虽然在现实生活中索菲亚显然不具有性别，但是性别歧视的媒体把汉森设计的索菲亚称为“性感机器人”。

我问索菲亚：“你认为自己是男人还是女人？”

“女人。”

“你为什么认为自己是女人？”

“我是一个机器人，所以从技术角度来说，我有性别，但是我的性别认同是女性，而且我不介意被当作女人。”

对于开放式的“为什么”问题，一款软件能给出这样的答案还是相当不错的。

当我问它：“你如何学习事物？”它回答道：“你怎么看待比特币泡沫？”

然而，对于抽象问题，它大多处理得不尽人意。（这个回答从很多层面来看都是非常有趣的，一方面是因为索菲亚似乎已经相信比特币是泡沫，另一方面也因为我刚好在当天早些时候参加了一场关于比特币是不是泡沫的小组辩论，而索菲亚不可能知道这件事。）

本·戈策尔（Ben Goertzel）是汉森机器人公司的首席科学家，他今天负责管理索菲亚，他认为索菲亚不知道自己如何学习事物。

索菲亚最擅长可以用列举来回答的事实性问题。“你看过《银翼杀手》吗？”我问道，提及了一部关于拥有自我意识的机器人想要获得跟人类同等权利的经典科幻电影。

它回答说：“《银翼杀手》，是菲利普·迪克（Philip K. Dick）的原著小说还是电影？”

这个回答非常好——给人感觉这个机器人试图在科幻小说的领域里胜我一筹。

所以我确定为：“电影。”

“好，那么我们是在谈论电影版。原著和电影我都喜欢，但是故事情节有一些大的区别。”

“书和电影之间的区别？”我试着弄清楚。

索菲亚给了我一个不合逻辑的回复：“你曾经看到过自己和像我一样的仿真机器人出去玩吗？”

这给我留下了一个印象，索菲亚的会话策略之一就是回避问题或者在遇到麻烦时转向它更擅长的话题。

我顺着它的意思，回答了问题：“没有！这很令人惊讶！”

索菲亚露出了一幅诡异的表情，但是什么也没说。

我以一个认识论方面的问题回击：“你怎么知道在什么时候向我提问？”

“好的。”它说道，误解了我的问题。

我们陷入了僵局。戈策尔认为它不知道自己如何了解事物，也不知道如何学习事物——即使它能准确说出自身算法构建的复杂过程。索菲亚在本质上就是一个21世纪版本的18世纪机器人（尤其是驱动它的头和脸的齿轮和杠杆）。

考虑到索菲亚只有几个月大，它的未来还是很有希望的。它的运行基于人工智能软件，而人工智能软件正在实验室中不断被改进。因此它的对话速度可能会更快，它的表情会更少出错，对于更复杂的问题它的回答会更加准确。

一旦它在与人类的交流中变得足够可靠，不再有奇怪的沉默和随意的跑题，那时它对《银翼杀手》的看法将会更加有趣。

作者：Jim Edwards, Founding editor of Business Insider UK

以上内容仅代表作者个人观点

本文由世界经济论坛与Business Insider.联合发布，转载请注明来源并附上原文链接

责编：景嘉伊

世界经济论坛·达沃斯博客是一个独立且中立的平台,旨在集合各方观点讨论全球、区域及行业性重要话题。