人工智能：乌托邦还是敌托邦？

人工智能在人类经济和社会中已经扮演着重大的作用，未来还会扮演更加重要的角色。思考人工智能的未来，等同于认识到人类的未来就是人工智能的未来。

这种未来的到来部分源于“深度学习”的发展。“深度学习”利用了多层神经网络，其理论形成于上个世纪八十年代。如今，计算机的计算能力进一步提高，存储空间进一步增大，深层学习的可能性变得更加现实。2016年，人工智能Alpha Go战胜了围棋世界冠军，人工智能的应用得到了广泛的关注。企业和政府都希望利用人工智能科技在各种各样的“大数据”中找到可以为人所用的模式。

2011年，IBM公司的人工智能计算机系统“沃森”在智力竞赛节目Jeopardy!中击败了两位前比赛冠军，标志着人工智能技术的另一个分水岭。Jeopardy!比赛结合了一般常识和横向思维。人工智能的另一个重大发展是“物联网”的兴起。越来越多的小型装置、家用电器、可穿戴装置和装在公共场所的传感器相互连接起来，不停歇地传递信息。“老大哥”已经不再盯着你了；取而代之的是亿万个“小兄弟”。

除了这些人工智能方面的创新，可以预见将会出现许多过去人们所谓的“专家系统”：即能够帮助甚至替代各领域人类专家的人工智能的应用。同样地，人工智能将能够完成过去无法自动化的任务。目前，机器人已经几乎能够完成仓库中几乎所有过去由人类完成的工作了。

考虑到人工智能的上述趋势，一些人提出所谓“奇点”，即通过智能的自我改进，人工智能超越人类智能的一点。无论那一点出现在2030年还是21世纪末，那时机器人都将会全面取代人类，而人工智能将会使得战争、贫穷、疾病，甚至死亡都成为历史。

对于上述人工智能的发展与观点，我想说的是：继续追寻人工智能的梦想吧。通用人工智能（AGI）仍是遥不可及的梦想，实在难以掌控。虽然未来有一天能够得以实现，现在我们还很难预见这一天的到来。

不过，人工智能确实有一些重大的发展近在眼前，其中许多都能够给与我们对其未来发展的希望。例如，人工智能可以以更低的成本为更多人提供可靠的法律建议，还可以帮助人类攻克眼下的绝症，在不增加专业人员的同时让更多人获得可靠的医疗方面的建议。

然而在其他领域，我们应该对人工智能的未来保有一种谨慎的消极态度而不是完全消极的态度。人工智能在军事、个人隐私和就业方面显示出一些令人十分忧虑的可能影响。自动化武器已经存在，这些武器最终将能够自动选择打击目标。随着政府和跨国公司能够更加容易地使用大数据技术，我们泄露的个人信息也越来越多。同时随着人工智能取代越来越多的日常活动，越来越多的专业人员将丧失他们的技能优势，继而被人工智能替代。工作的本质将会改变，政府将会需要考虑发放“普遍基本收入”，但这是建立在政府那时还会有足够的税收收入来支持这一政策的前提下。

人工智能的另一个潜在的可能性与上面提到的不同，但同样令人担忧，那就是人工智能可能替代人与人之间的接触。举个小例子，试想你想打电话找一个真正的人类交流，却辗转于一个又一个自动菜单之间，将会感到多么烦躁。有时，这种情况之所以令人气愤，是因为人类智能没有介入时你无法得到预期的回答。或者，你感到心中烦闷是因为你找不到另一个人来倾诉，他/她可能会理解你的感受，甚至可能也会有和你一样的感受。

其他的例子就没有这么微小了。我个人尤为介意的想法是把计算机用作老年人的“看护”或“陪伴”。无疑，那些联网的人工智能在装上个人化定制的应用软件之后能够为一个孤独的人提供信息和娱乐的方式，也能够监测重要的生命体征，在必要的时候提醒医生和家人。家用机器人在把食物从冰箱拿过来或者做家务的时候是十分有用的，但人工智能系统到底能否提供真正的“看护”或“陪伴”则完全是另一个问题了。

那些认为人工智能系统可以提供真正的“看护”或“陪伴”的人认为自然语言处理将会完成这个任务，但要做到这一点，需要大量的对话作为基础，且这些对话需要包含和个人记忆有关的大量情感。尽管人工智能系统能够识别某个人词汇、语调、停顿和面部表情中有限的情感，它能够做出的反应与真正的人类还是无法相比的。人工智能系统或许会说“你对此感到难过，我很抱歉，”或者“有这样的事！太好了！”然而这种回复其实是毫无意义的。这样的回复或许可以安慰一个精神失常的人，但这牺牲了多少他们的尊严？

一个可能的方案是让人类继续扮演这些角色，人工智能不取代人类，只帮助人类。现在有许多工作需要人与人之间进行身体上和情感上的照顾，而这些工作却没有被赋予其应有的价值。理想情况下，未来这些工作会更加受到尊重，也会得到更好的待遇。

但这也有可能是一厢情愿。最终，人工智能的未来——我们的人工智能的未来——是光明的。但其未来越光明，就会投射越大的一片阴影。

作者：Margaret A. Boden ，塞萨科斯大学认知科学教授
以上内容仅代表作者个人观点。
本文由世界经济与Project Syndicate 联合发表，转载请注明来源并附上原文链接
翻译：达沃斯博客翻译小组·李雪
责编：刘博睿
世界经济论坛·达沃斯博客是一个独立且中立的平台,旨在集合各方观点,讨论全球、区域及行业性重要话题。