斯图尔特·罗素是加州大学伯克利分校计算机科学教授，也是《人类兼容》一书的作者，是全球最受尊敬的人工智能专家之一。
在这段视频访谈中，他评估了人工智能的现状、它对我们生活构成的潜在威胁，以及算法在社交媒体及其他领域的影响力。
这段视频访谈是世界经济论坛新近推出的专家解读 系列的一部分。该系列邀请经济学、科学和社会心理学领域的知名人士分享他们最重要的见解。
“如果技术能为地球上的每个人都造出一个孪生体，而且这个孪生体更快乐、不那么宿醉，还愿意免费工作——我们当中还有多少人能保住工作？”
伯克利教授、计算机科学家斯图尔特·罗素的这番话直指我们对人工智能的忧虑核心。人工智能究竟能学会做多少我们所做的事，并且做得比我们更好？一旦它做到了，我们人类又能感到多大程度的安全？
在这段深入的视频访谈中，罗素探讨了我们对技术反乌托邦的共同不安，并审视“通用”人工智能的功能与范围：从不起眼的家用恒温器，到那些渴求注意力、让我们紧盯智能手机的提示音与通知声。
罗素说：“如果你连续多天每天数百次地轻推一个人，就能在很大程度上改变他的信念、偏好和观点。”
“算法正在对全球数十亿人产生巨大影响。我认为，我们让它们逍遥太久了。”
点击此处观看访谈的简短摘要：
更喜欢音频？除了视频，你还可以收听播客讨论，参与者包括斯图尔特·罗素、我们的播客编辑罗宾·波默罗伊，以及世界经济论坛人工智能与机器学习负责人凯·弗斯-巴特菲尔德。
以下是访谈的完整文字记录。
什么是人工智能？
斯图尔特·罗素：要明确划出一条界线，说这款软件是人工智能，而那款不是，其实出乎意料地困难。
在这个领域里，我们讨论的对象有时称为“智能体”，也就是依据自身感知采取行动的事物。感知可以通过摄像头或键盘获得；行动可以是在屏幕上显示内容、转动自动驾驶汽车的方向盘、从坦克发射炮弹，或者采取其他行动。
人工智能的目标是确保系统采取的行动确实正确，也就是说，能够实现我们为智能体设定的目标。这与经济学和哲学中一个由来已久的概念相对应，称为“理性智能体”：其行动可以预期会实现自身目标的智能体。这就是我们试图做到的。
智能体可以非常简单。恒温器就是一种智能体。它具备感知能力，只需测量温度；它也能采取行动，即打开或关闭暖气。它大致遵循两条极其简单的规则：太热就关掉，太冷就打开。
那么，这算人工智能吗？其实，称它为人工智能与否并不重要，也不存在一条明确的分界线。不能说有17条规则就是人工智能，只有16条就不是；这种说法没有道理。因此，我们把它看作一个连续谱，从极其简单的智能体一直延伸到人类这样的极其复杂的智能体。
什么是“通用”人工智能？
这一直是我们的目标，也就是我所说的通用人工智能。它还有其他名称，如人类水平人工智能、超级智能人工智能和人工通用智能。我选择“通用人工智能”这个说法，因为它比“超级智能人工智能”听起来不那么吓人。
正如你所说，它指的是这样一种人工智能系统：对于人类凭借智力能够完成的任何任务，它都能够胜任；如果还不会，就能迅速学会，并做到与人类一样好或更好。
我认为，大多数专家都说，到本世纪末，我们很可能会拥有通用人工智能。有人给出的中位数大约是2045年。这并不遥远，也就是不到30年后。我稍微偏谨慎一些，认为这个问题比我们想象的更难。
“如果技术能为地球上的每个人都造出一个孪生体，而且这个孪生体更快乐、不那么宿醉，还愿意免费工作——我们当中还有多少人能保住工作？”
斯图尔特·罗素
人工智能会抢走我们的工作吗？
这是个由来已久的问题。令人惊讶的是，亚里士多德甚至写过一段话：他说，如果我们有完全自动化的织布机，还有能自动拨动里拉琴、无需任何人就能演奏音乐的拨弦器，那我们就不需要工人了。想想看，这是公元前350年的观点，实在令人惊叹。我认为，凯恩斯在1930年称之为“技术性失业”的这种想法，对人们来说显而易见：他们会想，机器做了工作，我当然就会失业；卢德派当年也担心这一点。
很长一段时间里，经济学家甚至认为，他们已经用数学证明技术性失业不可能发生。不过，仔细想想……
如果技术能为地球上的每个人都造出一个孪生体，而且这个孪生体更快乐、不那么宿醉，还愿意免费工作呢？那么，我们当中还有多少人能保住工作？我认为答案是零。
所以，经济学家的数学定理肯定有问题。过去十年左右，我认为经济学界的看法确实发生了转变。事实上，我第一次参加达沃斯会议是在2015年。当时有一场晚宴，据说是讨论新数字经济，但几位发言的经济学家——其中有好几位诺贝尔奖得主，还有其他非常杰出的经济学家——却一个接一个地站起来说：“其实，我不想谈数字经济。我想谈人工智能和技术性失业。这是世界面临的最大问题，至少从经济角度看是如此。”
人工智能会导致全面失业吗？
我认为，许多经济学家仍然相信存在抵消效应，因此情况并不像“机器做了X工作，人就不做X工作，于是人失业”这么简单。确实存在这些抵消效应。
如果机器能以更低成本、更高效率和更高生产力完成某项工作，就会增加总体财富，进而提高经济中其他所有工作的需求。于是，劳动力就会从正在实现自动化的领域转移到尚未自动化的领域。
但如果所有事情都实现自动化，那就会出现孪生体的论点：为每个人造一个愿意免费工作的孪生体。
因此，我们得想想还有哪些领域不会实现自动化，可能是因为我们不想自动化，也可能是因为人类本身就更擅长。我认为这是一种乐观的看法，也可以说凯恩斯持有这种观点。他把它称为“完善生活的艺术”。人类将面临一个永恒的问题：如何愉快、明智而美好地生活。未来，那些更善于修炼生活艺术的人会更加成功。修炼生活艺术是人类能够理解的，因为我们明白生活是什么，而且彼此如此相似，所以能为对方做到这一点。
我们有一种内在优势，能够理解某些经历是什么滋味：被一生挚爱抛弃、失去父母，或是在学校里成绩垫底，诸如此类。因此，相比机器，我们还有额外的比较优势。这意味着，人类在某些职业中很可能确实占有优势，尤其是需要人际互动的职业。我认为，越来越多的人会转向这些领域。
我们能让人工智能解决最棘手的问题吗？
让人去做一件事，与把这件事设为人工智能系统的目标，两者之间有很大区别。
你请一个人给你拿杯咖啡，并不是要把这变成他一生的使命，仿佛宇宙中其他一切都无关紧要。即使为了赶在星巴克打烊前拿到咖啡，他必须杀掉里面所有其他人，你也不是要他这么做，对吧？
你的意思当然是，我们共同在意的其他事情也应该影响他的行为。我们现在构建人工智能系统的问题在于，我们给它们设定了固定目标。算法要求我们把所有事情都写进目标中。
如果你问，能不能解决海洋酸化问题？可以，我们可以用一种催化反应非常高效地做到这一点，但它会消耗大气中四分之一的氧气，显然会让我们在数小时内缓慢而痛苦地死去。那该如何避免这个问题？你可能会说：“好吧，那就更仔细地设定目标，别忘了考虑大气中的氧气。”但接着，这种反应可能产生副作用，毒死海里的所有鱼。好吧，我的意思是别杀鱼。那海藻呢？好吧，也别做任何会导致所有海藻死亡的事。这样没完没了。
在我的著作《人类兼容》中，凯提到的核心观点是：如果我们构建的系统知道自己并不知道目标是什么，它们就会开始表现出某些行为，比如在消耗大气中所有氧气之前先征求许可。它们之所以这样做，是因为这会改变世界，而算法可能不知道我们究竟喜欢还是不喜欢这种变化。因此，它有动力询问，因为它想避免做任何我们可能不喜欢的事。这样就能得到更稳健、更可控的行为。在极端情况下，如果我们想关掉机器，它实际上会希望被关掉，因为它想避免做任何令我们不快的事。它不知道自己做的哪件事惹恼了我们，但它想避免那种情况。所以，如果我们希望它关机，它就会希望我们关掉它。
因此，从这些方面来说，对人工智能系统的控制来自机器对真正目标的不确定性。相反，当你构建的机器确信自己知道目标时，就会出现那种精神病态的行为。我认为，人类身上也会出现同样的情况。
我们应该多担心人工智能？
人工智能是一种技术，本身无所谓善恶。如何使用它由我们决定：我们可以善用，也可以滥用。
设计不当的人工智能系统会带来风险，尤其是那些追求错误目标、目标设定有误的系统。我认为，我们对算法总体上——不只是人工智能系统，而是所有算法——都放任太久了。
回想一下，我们曾经也对药品放任不管：当时没有美国食品药品监督管理局（FDA）或其他机构监管药物，数十万人因配方不当、假冒伪劣等药品而死伤。最终，经过大约一个世纪，我们建立起药品监管体系。这个体系成本高昂，但大多数人都认为它很有必要。尽管如此，我们在算法监管方面还远远没有做到这一点，尽管这是可以实现的。
而且，与药品相比，这些算法对全球数十亿人的影响可能更大。我认为，不能想当然地认为这种影响必定是好的。如今各国政府开始意识到这一点，并且在努力摸索如何监管，同时避免把事情搞砸。
人工智能算法正在摧毁社会吗？
这个问题很难回答，因为我们其实不知道答案：事实都被社交媒体公司锁在内部。具体来说，每周会发生数万亿次互动——数万亿次。数十亿人每天数百次使用社交媒体，每一次互动都包括点击、滑动、略过、点赞、点踩等等。所有这些数据都无法获取。
不过，如果想想这些算法的运作方式，就会发现它们基本上是在最大化点击率。它们想让你点击内容、与内容互动，或在平台上花时间；后者衡量的是稍有不同的指标，但本质上差不多。
你可能会说：“好吧，要让人点击内容，唯一办法就是给他们推送感兴趣的内容。这有什么问题？”但事实并非如此。提高点击率的办法，是向人们推送一连串内容，把他们变成另一个人，让他们更容易点击你今后推送的任何内容。因此，根据我们建立的数学模型，算法已经学会操纵人、改变人，让他们以后更容易受影响，从而以更高的比率实现商业变现。
与此同时，当然也出现了一个规模庞大、由人推动的产业，为整个过程提供内容，包括标题党产业和虚假信息产业。人们劫持了算法迅速改变人的能力，因为每个人每天都会受到数百次互动影响，每次都被轻推一下。
但如果你连续多天每天数百次地轻推一个人，就能在很大程度上改变他的信念、偏好和观点。
算法不在乎你持有什么观点，它们只在乎你是否容易受到推送内容的影响。但人们确实在乎，于是有人劫持这一过程，借此谋利，并制造符合自身目的的两极分化。我认为，我们必须提高透明度。人工智能研究人员希望这样做，因为我们想了解情况，看看能否解决问题。各国政府也希望这样做，因为它们非常担心整个社会结构正在瓦解，或受到不关心其利益的其他国家的破坏。
社交媒体的人工智能问题有可能解决吗？
社交媒体问题或许是最棘手的，因为它不只是做了我们不喜欢的事，它还在改变我们的偏好。如果你愿意这么说，这就是任何试图满足人类偏好的人工智能系统可能出现的一种失效模式。满足偏好听起来非常合理，但满足偏好的一种办法，是改变偏好，让它们已经得到满足。你知道，政治人物似乎很擅长这么做；我们不希望人工智能系统也这样做。
但这又是一个棘手的问题，因为并非所有社交媒体用户都讨厌自己。他们不会坐在那里说：“你怎么敢把我变成狂热的新法西斯分子？”他们相信自己新近形成的新法西斯主义才是正确的，之前的自己只是受了蒙蔽。这就触及道德哲学中一些最难的当代问题：当一个人的偏好随时间变化时，你该如何代表他采取行动？你是代表当下的他，还是未来的他？该选择哪一个？这个问题没有好的答案。我认为，这也暴露出我们对道德哲学的理解存在缺口。因此，社交媒体上正在发生的事情确实很难理清。
但我建议，我们可以先改变思维方式。社交媒体平台与其想着“好吧，我们怎样才能创造收入”，不如想想用户在乎什么、希望未来是什么样子、希望自己成为什么样的人。如果我们不知道呢？我认为，答案就是我们不知道。
毕竟，我们有数十亿用户，每个人都不一样，偏好也各不相同，而我们不知道这些偏好是什么。我们可以考虑建立这样的系统：起初对用户的真正偏好抱有很大不确定性，并努力了解更多，同时尊重这些偏好。最难的是，我们不能说绝不触碰用户的偏好，因为只要阅读《金融时报》，偏好就会改变，对吧？你会获得更多信息，了解到各种不同的观点，随后你就成了另一个人。
我们希望人们随着时间成为不同的人。我们不希望永远停留在新生儿阶段，但我们没有好办法判断，把一个人转变成另一个人的过程究竟是不是好的。
我们认为，大学教育是好的，环球旅行是好的，它们通常会让人成为更好的人；洗脑是不好的，加入邪教也不好，邪教对人造成的影响不好，诸如此类。但社交媒体上正在发生的事情，恰恰处于我们不知道该如何回答这些问题的地带。因此，我们确实需要道德哲学家和其他思想者提供帮助。
要用通用人工智能创造更美好的未来，我们需要坚持哪些原则？
三项原则中的第一项是：所有机器的唯一目标应当是满足人类偏好。“偏好”是经济学中的一个术语，不只是指你喜欢哪种披萨或投票给谁，而是指对于所有可能的未来，你对一切重要事物如何排序。
这是一个非常宏大、复杂而抽象的概念。即便你试图解释，也有很大一部分是你永远无法说清的；其中还有些事情你确实不知道。比如，我真的不知道自己吃不吃榴莲。有些人非常喜欢，有些人觉得恶心。我不知道自己属于哪一类，所以真的无法告诉你，我是否喜欢每天都吃榴莲的未来。这就是第一项原则：我们希望机器满足人类偏好。
第二项原则是，机器并不知道这些偏好是什么，因此它对人类偏好一开始应当是不确定的。我们已经谈到，正是这种谦逊使我们能够保有控制权；在某种意义上，它让机器学会听从人类。
第三项原则则为前两项原则中的“偏好”概念奠定基础：人类行为是了解人类偏好的证据来源。简单来说，这个模型认为，人类对未来有着这些偏好，而这些偏好导致我们作出相应选择。所谓行为，指我们做的一切和没做的一切：说话或不说话、坐着，或者在观看这场讲座或访谈时阅读电子邮件。
因此，人工智能的潜在收益巨大。回到凯恩斯的观点：如果我们摆脱了贯穿整个人类历史的生存斗争，并获得财富，人工智能确实能让我们明智、愉快地生活。
到目前为止，我们别无选择，必须起床，否则就会饿死。未来，我们将拥有选择。我希望我们不会只选择赖在床上，而是会有其他理由起床，从而真正过上丰富、有趣、充实的生活。
这是凯恩斯思考过、预测过并期待过的事情，但它不会自动实现。
即使黄金时代到来，也可能出现各种反乌托邦式的结局。不过，无论电影怎么说，机器获得意识、决定憎恨人类并想杀死我们，这种情况实际上不太可能发生。
点击此处观看完整的专家解读系列。
