对我们大多数人而言，我们对机器人和人工智能（AI）的理解更多来自科幻作品，而非事实。智能机器人常被描绘成对人类构成严重威胁的存在，例如《终结者》系列电影中的形象，或艾萨克·阿西莫夫的《我，机器人》；也有时被描绘成具有社会益处的工具，例如《星球大战》中的机器人R2-D2和C-3PO，或《星际迷航》中的数据少校。然而，AI与机器人融入社会的真实情况不太可能是这两者之一。随着AI的发展不断推进，或许我们应当停下来，重新审视如何看待这些不断演进的机器。（编者注：请参阅下方视频，其中提及斯坦利·库布里克电影《2001：太空漫游》中具有感知能力的计算机HAL 9000。）《终结者》系列电影，或在艾萨克·阿西莫夫的《我，机器人》中；或者作为具有社会益处的工具，例如《星球大战》中的机器人R2-D2和C-3PO，或《星际迷航》中的数据指挥官。然而，AI与机器人融入社会的真相很可能两者皆非，而且随着AI的发展不断推进，或许我们应当停下来，重新审视如何看待这些不断演进的机器。（编者注：请参阅下方视频，其中提及斯坦利·库布里克电影《2001：太空漫游》中具有感知能力的计算机HAL 9000。）
随着机器人逐渐走向具备感知能力，我们显然必须开始重新思考机器人对社会意味着什么，以及它们应当承担怎样的角色。
第一步，我们需要停止将机器人视为人类的仿制品。科幻作品往往想象那些模仿人类动作和语言的机器人；虽然我们确实正在研发此类机器人，但日常使用的大多数机器人很可能看起来和听起来都不像人类。许多机器人将是专用设备，与今天的生产线机器人并无太大不同，例如在汽车上进行点焊，或为发货而包装衬衫；另一些机器人则可能根本没有实体躯体，而只是控制自动驾驶汽车或无人机的代码，或将取代Siri、Cortana和Alexa、成为未来个人助理的程序。
史蒂芬·霍金和埃隆·马斯克曾警告，AI对人类安全与保障构成威胁
随着机器人逐渐走向具备感知能力，我们显然必须开始重新思考机器人对社会意味着什么，以及它们应当承担怎样的角色。如今，围绕我所称的“科幻辩论”，人们展开了大量讨论。史蒂芬·霍金教授和企业家埃隆·马斯克等人曾警告，机器人和AI对人类安全与保障构成威胁。根据英国科学协会委托YouGov于2015年开展的一项调查，英国有36%的人持这一立场。另一方面，被动或具有社会用途的机器人则被妖魔化，被视为对人类就业的直接威胁。英格兰银行于2015年警告称，英国多达1500万个工作岗位有被机器人取代的风险；而Forrester Research于2016年发布的一份报告则认为，到2021年，机器人将使美国所有工作岗位中的6%被淘汰。
尽管有这些严峻的警告，我们仍在继续推进机器人与AI研究。为什么？因为“科幻辩论”与机器人未来在我们社会中的角色之间存在脱节。第一代真正智能的AI设备很可能是自动驾驶汽车，它们可能带来巨大的社会效益。从公共安全的角度看，这些益处是显而易见的。2016年，英国道路上有1,810人死亡，25,160人受重伤。由于约90%的道路交通事故归因于人为失误，自动驾驶汽车每年或可挽救约1,600条生命，并将严重伤害减少约22,500人。此外，大型企业还能获得经济效益。快递公司、拼车应用乃至公共交通运营商，都可以用智能机器人取代员工，每年节省数十亿英镑，同时消除产业行动的风险。在这样的背景下，不难看出AI为何具有吸引力。在AI法官的客观公正性以及机器人外科医生的精准度方面，也可以提出类似的论点。
然而，这些论点和争论并非我对AI与机器人感兴趣的根源。大多数人关注的是AI与机器人对社会构成的挑战，而我关注的是机器人对我们人类构成的挑战。将AI与机器人融入社会，对人类的代价是什么？可以明确的是，使用智能设备——即使是Alexa这类当前智能助手所具备的基础算法智能——也会改变人类思考和做出决策的方式。我们记住的信息减少了，并将数据存储外包给设备。这意味着，这些外部设备在我们做决策时会过滤提供给我们的信息：我们以部分自主权换取便利，以及一种被认为“更完整的全貌”，而事实并非如此。
正如伊莱·帕里泽在其著作《过滤泡》中所展示的那样，技术的一项重要作用是选择不向我们展示什么。1987年，我们做决策时可能依据的是不完整的信息，但保留什么、舍弃什么，完全是人类的决定。三十年后，我们拥有了更多信息，但这些信息的价值判断和呈现方式不再由人类的思考过程决定，而是由算法设计决定。我们如此推崇的信息社会，已产生了远超我们处理能力的信息。我们面临着由海量数据造成的选择暴政，并将数据过滤工作外包给了算法和设备。这催生了大数据分析和算法监管等发展。
随着我们迈向人类水平机器智能这一崭新世界（一些评论人士认为这可能最早在2030年到来），我们将不得不面对一些非常深刻的问题，关于我们的身份认同，以及成为人类意味着什么。第一个重大挑战很可能是我们如何对待我们的新平等者。科幻作品的一个常见主题是人类无法识别并尊重与自身不同的有感知生命形式。如果我们在未来20至30年内真正实现人类水平的人工智能，那么我们接下来的所作所为，将既定义人类自身，也定义我们与自身造物之间的关系。我们会像对待平等者一样尊重它，还是会把它当作工具来对待？
当机器智能达到人类水平，并具备感知能力和自我意识时，我们将不得不将其视为一种智能生命形式。
如今，当我们谈论AI和机器人时，通常将它们定义为可随意使用的工具或设备：驾驶汽车或飞机、在危险环境中采矿，或仅仅用于管理我们的日常生活。在当前低水平机器智能的标准下，这或许可以接受；然而，当机器智能达到人类水平，并具备感知能力和自我意识时，我们将不得不将其视为一种智能生命形式。如果我们此后仍将其视为工具或设备，那么这与以这种方式对待人类并无二致。英国于1833年废除了奴隶制；不到30年后，我们或许将重新面对这一辩论。此类辩论，甚至是此类辩论的可能性本身，意味着对律师而言，AI与机器人提供了一个独特机会，可以让人类和社会照见自身，并审视我们如何制定和维护最根本的法律原则与规范。
