《终结者》是为了让我们感到恐惧；WALL-E则是为了让我们落泪。机器人做不到我们在电影中看到的那些可怕或令人心碎的事情，但问题依然萦绕不去：如果它们能做到呢？
当然，我们今天拥有的技术远远没有精密到能做到这些。但人们一直在问。这些讨论的核心问题是：机器能否产生意识？它们甚至能否发展出，或被编程使其包含，一个灵魂？至少，算法能否包含某种类似于灵魂的东西？
这些问题的答案完全取决于你如何定义这些概念。自人工智能作为一门学术研究领域出现以来的70年间，我们尚未找到令人满意的定义。
以最近一篇发表于BBC上的文章为例，该文试图探讨具有灵魂的人工智能这一理念。作者以一种几乎立刻将讨论引离神学领域的方式，界定了拥有不朽灵魂意味着什么。这当然没有问题，因为一位身着长袍的老人从天上俯身为Cortana注入生命的说法似乎不太可能。但它没有回答核心问题：人工智能能否超越一个毫无思想的工具？
那篇BBC文章提出了一个前提：一个表现得仿佛拥有灵魂的人工智能系统，其是否具有灵魂将由旁观者判定。对于我们中的宗教信仰者和精神追求者而言，足够先进的算法可能显得像是具有灵魂。这些人可能会据此对待它，因为他们会将人工智能系统的智能、情感表达、行为，甚至对神的信仰，视为内在某种东西的迹象，而这种东西可以被定义为灵魂。
因此，包含某种人工智能的机器，根据你询问的对象不同，可能同时被视为一个实体或一种研究工具。与许多事情一样，关于什么会使机器具有意识的大部分争论，归根结底在于我们把自身的哪些方面投射到了算法之上。
“我与其说是在对计算机编程，不如说更热衷于培育小小的原始实体，”南希·富尔达，杨百翰大学的计算机科学家，向《未来主义》（Futurism）表示。“正是模式的发现、独特行为的涌现，最初吸引我投身计算机科学。也正是这一点让我至今仍在这一领域。”
富尔达训练了人工智能算法以理解语境语言，并正致力于构建一种机器人心智理论，即人类心理学（以及部分动物心理学）中的一项原理，使我们能够将他人视为拥有自身想法和意图的存在。不过，你知道，这是为机器人而做的。
“至于计算机能否拥有神所创造的灵魂：我不敢妄加推测，”富尔达补充道。
有两个主要问题需要解决。第一个是语义问题：很难界定意识或感知能力真正意味着什么，或者拥有灵魂或灵魂功能可能意味着什么，正如BBC文章所描述的那样。
第二个问题是技术进步的问题。与创造人工智能感知能力所需的技术相比，无论它可能是什么样子，或者我们可能选择如何定义它，即便是我们最先进的工程师，仍然像蜷缩在洞穴中，摩擦木棍生火，烤制猛犸象肉排。
去年的一次小组讨论中，生物学家兼工程师克里斯托夫·科赫与认知科学家大卫·查尔莫斯就何为意识展开了交锋。讨论在关于机器和僵尸（定义为行为上与人无异却缺乏内在心智的存在）的思辨性思想实验之间跳跃，并且频繁偏离那些能够通过科学证据得到确凿证明的事物。查尔莫斯认为，比今天更先进的机器，可以产生意识，但科赫基于当前神经科学和人工智能技术的状况持不同意见。
神经科学文献认为，意识是由大脑构建的叙事，它整合了我们的感官、我们感知世界的方式，以及我们的行动。但即便在这一定义之内，神经科学家仍难以界定为何我们会有意识，以及如何从神经活动的角度最好地定义它。对于宗教信仰者而言，这种意识是否等同于拥有灵魂所赋予的那种意识？而这甚至还没有触及技术这一主题。
“人工智能领域的人们常常将灵魂与心智混为一谈，或者更具体地说，与产生复杂行为模式的能力混为一谈，”昂德热·贝朗，帕尔杜比采大学的哲学家兼伦理学家，向《未来主义》表示。
人工智能领域的人们常常将灵魂与心智混为一谈
昂德热·贝朗
“在我们的文化中，灵魂概念所扮演的角色，与我们说某人的灵魂高贵或堕落的语境交织在一起，”贝朗补充道，也就是说，它附带了价值判断。“[在]我看来，所需要的不是人工智能科学或工程的突破，而是一种普遍的概念转变。是人们在彼此交流时使用语言的敏感性与想象方式的转变。”
贝朗以人工智能生成的艺术作品为例。这些作品通常是作为娱乐来展示的。但当我们把算法创造的东西称为“艺术”时，我们往往没有去考虑：该算法是否仅仅生成了某种图像或旋律，还是创造了某种有意义的东西，不仅对观众而言，而且对其自身而言。当然，人类创作的艺术也常常无法触及第二类意义。“对于人工智能而言，某物具有意义究竟意味着什么，这一点非常不清楚，”贝朗补充道。
那么，当机器能够进行内在思考，而不是漫无目的地处理输入与输出时，它是否就达到了感知能力？或者，在我们作为社会认为机器具有意识之前，它是否真的需要那种内在的东西？同样，答案会因我们选择探讨问题的方式以及最终确定的具体定义而变得模糊。
“我认为灵魂并不像某种实体，”捷克科学院的哲学家弗拉基米尔·哈弗利克曾试图从进化的视角来定义人工智能，他对《未来主义》表示。“我们可以说，它类似于一种连贯的身份认同，这种身份在时间流逝中持续构成，并代表着一个人，”他补充道。
哈弗利克认为，与其担心灵魂的神学层面，我们不如将灵魂定义为一种经得起时间考验的内在品格。从这个意义上说，他认为没有理由说机器或人工智能系统无法发展出品格，这完全取决于算法本身。在哈弗利克看来，品格源于意识，因此，发展出此类品格的人工智能系统，需要基于足够先进的技术，使其能够以比较过往结果与未来预期的方式做出决策并进行反思，这与人类认识世界的方式颇为相似。
但是，我们能否制造出拥有灵魂或意识的机器这一问题，只对那些认为此类区分很重要的人才有意义。归根结底，人工智能是一种工具。即便是更为复杂的算法，它们可能游走于边界，表现为有意识的实体，也只是对有意识生命的再现，而非一种具有自我意识的新的思考物种。
“我对人工智能的态度本质上是务实的，”彼得·巴姆普卢，联邦大学（Federation University）的工程师，向《未来主义》表示。“对我而言，人工智能系统是否具有真正的智能，或真正的情感与同理心，并不重要。重要的只是它的行为方式能使其对人类社会有益。”
对我而言，人工智能系统是否具有真正的智能……重要的只是它的行为方式能使其对人类社会有益。
彼得·巴姆普卢
对于巴姆普卢而言，机器能否拥有灵魂的问题，只有在你相信灵魂这一概念时才有意义。他并不相信，因此这个问题对他而言没有意义。他认为，机器有朝一日或许能够再现令人信服的情感反应，并表现得如同人类，但他认为没有理由将神学引入这一讨论。
而且，并非只有他认为机器不可能具有真正的意识。“我对人工意识这一想法持高度批判态度，”贝尔纳多·卡斯特鲁普，一位哲学家兼人工智能研究者，向《未来主义》表示。“我认为这是无稽之谈。相反，人工智能才是未来。”
卡斯特鲁普近期为撰写了一篇文章，《科学美国人》投稿，文中阐述了他的论点：意识是自然宇宙的一个基本方面，人们通过接入意识的离散碎片而成为独立的个体。他澄清道，他认为即便是通用人工智能（即科幻作品中那种包罗万象的人工智能的名称）有朝一日可能会出现，但即便如此，这样的人工智能系统也永远不会拥有人类那样私密的、有意识的内在思想。
“不幸的是，Siri充其量只能算荒唐可笑。更重要的是，我们仍然把她当作那样来看待，”贝朗表示。
更不幸的是，有一种日益增长的怀疑，即我们发展先进人工智能的方法可能很快会遭遇瓶颈。上周刊发于《纽约时报》的一篇文章引述了多位工程师的观点，他们对我们的机器学习乃至深度学习技术能否延续近年来的发展势头，日益持怀疑态度。
我不愿扮演扫兴的人，我确实不想。但即使我们解决了关于何为意识、何为感知能力、何为拥有灵魂的语义争论，我们也可能永远缺乏能让算法达到那一步的技术。
但在人工智能刚起步时，没有人能预料到它今天能做的事情。当然，人们曾想象过《杰森一家》式的机器人助手，或像Epcot那样的先进交通，但他们并不知道实现这些所需的切实步骤。而今天，我们同样不知道通往那种具备情商、敏感、深思熟虑且真正具有内省能力的机器的切实步骤。
这绝不意味着这项任务无法完成，我们只是还不知道该如何抵达那里目前。而我们尚未就究竟应把终点线设在何处达成一致，这使得任务更加艰难。
“我们仍有很长的路要走，”富尔达说。她认为，答案不会是拼凑算法，就像我们在用人工智能解决复杂问题时经常做的那样。
“你无法一次只解决人性的一个部分，”富尔达说，“这是一种格式塔式的体验。”例如，她认为，如果不理解感知和运动，我们就无法理解认知；如果不知道如何建模共情和社会意识，我们就无法准确地模拟言语。富尔达表示，试图在机器中逐一拼凑这些部分，就像“把适量的颜料倒进罐子里”来重现《蒙娜丽莎》一样。
这件杰作是否存在、是否正等待被描绘出来，仍有待确定。但如果它存在，像富尔达这样的研究者正争相成为执笔之人。只要我们继续追寻此类问题的答案，技术就将持续向前迈进。但当我们编写新代码，使机器明天就能做到我们昨天无法想象的事情时，我们仍需厘清我们希望一切最终导向何方。
我们会成为达·芬奇，描绘一位自我陶醉的女性并让她被景仰数百年，还是会成为乌拉诺斯，创造将推翻我们的神明？当下，人工智能将精确地按照我们告诉人工智能去做的事情，无论好坏。但如果我们迈向那些至少开始显得具有感知能力的算法，就必须弄清楚这意味着什么。
