当斯蒂芬·霍金、比尔·盖茨和埃隆·马斯克都对某件事意见一致时，这件事就值得关注。
这三人都曾警告人工智能（AI）可能带来的潜在危险。世界顶尖物理学家霍金曾说，AI的全面发展可能“预示着人类的终结”。科技企业家马斯克创办了PayPal、Tesla和SpaceX，他称人工智能是我们“最大的生存威胁”，并说玩弄AI就像“召唤恶魔”。对科技颇有了解的盖茨表示，在机器变得过于聪明、以至于我们人类无法控制时，他属于“担忧派”。
这些智者究竟害怕什么？AI通常被描述为计算机系统模仿人类智能行为的能力。这可能包括语音识别、视觉感知、决策和语言翻译等各种能力。从击败国际象棋冠军加里·卡斯帕罗夫的“深蓝”，到在《危险边缘 》节目中猜题胜过全球最佳选手的超级计算机沃森，都是实例。在虚构作品中，有《她》，这部电影讲述由杰昆·菲尼克斯饰演的主人公爱上自己的操作系统，而系统由斯嘉丽·约翰逊以诱人的声音配音。即将上映的《机械姬》则讲述一台被盗的警用机器人，它经过重新编程，能够做出有意识的选择并产生情感。机械姬
AI的一个重要组成部分，也是它引发恐惧的关键因素，是机器无需人类介入便能自主采取行动。这可能表现为计算机在遇到障碍或限制时自行重新编程。换言之，就是独立思考并据此采取行动。
不必说，科技界也有人对AI及其可能带来的变化抱有更乐观的看法。《连线》杂志创刊编辑凯文·凯利并不认为未来会由HAL们占据——HAL是《2001太空漫游》中飞船上的杀人电脑。凯利眼中的未来更为平淡，更像亚马逊云服务：一种廉价、智能、实用而又极其乏味的服务，因为它将在我们生活的后台运行。他说，AI将像一百多年前电力所做的那样，让惰性物体焕发生机。“过去凡是通电的东西，如今都将获得认知能力。”他认为，未来10,000家初创企业的商业计划很容易预测：“ 给X加上AI。”
凯利承认人们对人工智能的担忧，但他写道：“随着AI的发展，我们或许必须设计出防止它们产生意识的方法——我们最优质的AI服务将以 无意识为卖点。”（着重为原文所加。）这段话出自《科技想要什么》一书的作者。
与AI领域惊人进步同步发生的，是规模更大的发展，也就是通常所说的物联网（IoT）。大体而言，它指的是大量物体、动物乃至人身上出现可唯一识别的嵌入式设备，并通过无线方式连接互联网。这些“节点”无需人类介入即可发送或接收信息。有 估计 认为，到2020年将有500亿台设备联网。目前这类“智能”设备的例子包括Nest恒温器、支持Wi-Fi的洗衣机，以及日益互联的汽车；汽车内置的传感器能够避免事故，甚至可以替你停车。
美国联邦贸易委员会对物联网的安全和隐私影响十分关注，已举办公开研讨会，并发布了 报告 ，敦促企业采用最佳实践并“内置”相关程序，以尽量减少数据收集，并确保消费者信任这一新的联网环境。
“Web 2.0”一词的创造者蒂姆·奥莱利认为，物联网是迄今最重要的在线发展。他认为这个名称容易误导——IoT意味着让人们更广泛地获得人类智能；它“本质上关乎增强人类能力”，而我们很快就会“期待设备以各种方式预判我们的需求”。他以“智能个人助理”Google Now为例来说明这一点。
那么，这数百万个嵌入式设备与人工智能机器相连后会发生什么？AI + IoT = 什么？这是否意味着我们所知的文明将走向终结？我们的自编程计算机会不会向我们添加到日常物品中的芯片发出敌对指令？还是说，这不过是又一个颠覆性时刻，类似于蒸汽的利用或原子的裂变？这是人类作为物种进化的重要一步，但无需过度担忧？
答案或许在于对意识的一些新思考。无论作为概念还是体验，意识都极难界定。我们都知道自己拥有意识（至少我们是这么认为的），但科学家无法证明我们是否拥有意识，也无法确切说明意识是什么、如何产生。词典将意识描述为清醒并觉察自身存在的状态。它是一种“内在认知”，以感觉、情绪和思维为特征。
就在20多年前，一位名不见经传的澳大利亚哲学家大卫·查尔默斯提出了后来被称为“意识的困难问题”的问题，在哲学界引发争议。他追问，我们头脑中的灰质如何产生神秘的 存在体验。我们与一台高效的机器人有何不同——尤其是它可能还具备人工智能？人类是否是唯一拥有意识的存在？
一些 科学家 认为意识是一种幻觉，是大脑的把戏。另一些人则认为我们永远无法解开意识之谜。但少数神经科学家 认为，只要接受一个惊人的想法，我们或许终于能够弄清楚：不久之后，计算机或互联网有朝一日可能会产生意识。
在《卫报》一篇详尽的 文章中，作者奥利弗·伯克曼写道，查尔默斯等人提出一种观点：宇宙中的所有事物都可能已经具有或有潜力具有意识，“前提是其中包含的信息充分互联且组织有序”。那么，iPhone或恒温器会有意识吗？如果会，我们是否可能拥有一个“有意识的网络”？
在互联网诞生之初，作者詹妮弗·科布·克赖斯伯格写过一篇颇具影响力的文章，题为《一个披上大脑的地球》。文中她介绍了一位鲜为人知的耶稣会神父兼古生物学家德日进的研究。五十年前，德日进描述了一个全球思想圈，即“单一组织的生命统一体”，其中包含我们集体的思想、经历和意识。
德日进称之为“意识圈”（noo在希腊语中意为心智）。他认为，这一层次是超越地圈（物理世界）和生物圈（生物世界）的进化阶段。无论一个存在由神经元还是电子元件构成，其信息连接都能孕育意识。德日进认为，随着神经连接日益多样化，进化将走向更高的意识层次。正如Grateful Dead乐队的歌词作者、网络倡导者及德日进的拥趸约翰·佩里·巴洛所说：“借助网络空间，我们实际上正在将集体意识硬连线起来。”
所以，也许我们不该如此惊慌。我们或许正处在一个突破的边缘——不仅是人工智能和新兴物联网领域的突破，也是对意识本身理解的突破。如果我们能解决AI和IoT带来的隐私、安全与信任问题，就可能实现具有历史意义的进化飞跃。而德日进关于一个相互连接的“思维层”的非凡构想，确实有可能正是互联网一直以来的本质。
本文由 领英合作发布。本文的发布并不意味着世界经济论坛认同其中观点。
如需持续关注议程， 请订阅我们的每周简报。
作者：斯蒂芬·巴尔坎是家庭在线安全研究所（Family Online Safety Institute）的创始人兼首席执行官。
图片： 这张照片示意图中展示了互联网局域网电缆。路透社/蒂姆·温博恩。
