先进人工智能（AI）有朝一日可能反过来对抗其人类创造者，这种可能性近来屡屡被提及。比如，著名物理学家斯蒂芬·霍金对自己新升级的语音合成系统能够预判他想说什么感到惊讶，并据此提出，未来人工智能可能超越人类智能，最终 导致人类灭绝。
担心超级智能人工智能的并非只有霍金。 越来越多 的未来学家、哲学家和人工智能研究者表示，他们担心人工智能会让人类在智力和策略上都处于劣势。我认为这种情况不太可能发生，因为人类总会利用改进后的人工智能来提升自身。恶意人工智能不仅要胜过人类原始的脑力，还必须胜过人类与我们能够调动的任何忠诚人工智能技术的组合——而这一组合将胜过两者各自单独的能力。
这样的例子已经有很多：克莱夫·汤普森在其著作 《比你想象的更聪明》 中描述了这样一种情况：在人工智能早已超越人类特级大师的世界象棋锦标赛中，世界上最优秀的棋手并非单独行动的人类或人工智能，而是人机团队。
虽然我不认为超越未经辅助的人类原始智能会成为末日的导火索，但它确实提供了一个有趣的衡量基准。遗憾的是，对于我们如何判断何时达到这一点，人们并无共识。
超越图灵测试
人工智能有一个广为认可的基准： 图灵测试。这一测试源自已故数学家、人工智能先驱艾伦·图灵提出的思想实验。面对“机器能思考吗？”这个问题，图灵给出的实用解决方案是 模仿游戏：挑战在于让机器就任何话题进行对话，表现得足够令人信服，以至于人类无法判断自己是在与人还是与机器交流。
1991年，发明家休·勒布纳创立了年度竞赛 勒布纳奖，旨在创造一种能够通过图灵测试的人工智能——或者说我们今天所称的聊天机器人。今年竞赛的一位评委伊恩·霍金在其博客 中报告 说，如果参赛作品代表了我们在人类般智能方面的最佳尝试，那么成功仍需数十年；人工智能只能匹配人类智能冰山一角。
雷丁大学最近声称，其人工智能已达到一名 以英语交流的13岁乌克兰男孩 的对话能力，这也并未让我留下深刻印象。模仿儿童般的智能以及非母语者的语言能力，远不足以满足图灵测试的全部要求。
事实上，配备模式匹配算法而非语言理解算法的人工智能系统，几十年来一直能够表面上模仿人类对话。例如，20世纪60年代的 伊莉莎 程序就能相当像模像样地扮演心理治疗师。伊莉莎表明，你可以在某些时候骗过某些人；但勒布纳的25,000美元奖金从未有人赢得，这说明只要正确实施，图灵测试就是衡量人类水平智能的一项严苛标准。
衡量人工创造力
那么，如果人工智能尚未通过图灵测试，它能否更令人信服地重现人类智能的某些方面？来自美国佐治亚理工学院的 一项近期提案 由 马克·里德尔提出，建议测试人工智能的创造力。
里德尔的 洛夫莱斯2.0 测试要求人工智能创作一件作品，以满足一组合理但复杂程度任意的设计约束。约束由评估者设定，评估者也负责判断结果是否成功；这些约束应经过选择，使得满足它们会被视为一个人具有创造性思维的证据，并由此推及人工智能。
例如，评估者可能会要求机器（按照里德尔的示例）：“创作一个故事：一个男孩爱上一个女孩，外星人绑架了男孩，而女孩在一只会说话的猫帮助下拯救世界。”与图灵测试的一个关键区别在于，我们并非将机器的输出与某个人的输出进行比较。创造力，以及由此推断出的智能，由专家评判。里德尔建议暂且不考虑美学，只判断输出是否满足约束。因此，如果机器创作出一个合适的科幻故事，讲述杰克、吉尔和 巴格普斯击退ET并拯救地球，那么就算通过——尽管作为儿童小说作品，结果多少有些缺乏新意。
我喜欢测试创造力这个想法——人工智能开发者甚至还未开始探索那些支撑人类创造力的才能。但里德尔测试的核心似乎是满足约束，也就是解决问题。这或许很有挑战性，但并非人人都认为这就是创造力。而且，去掉图灵测试中竞争性的语言交锋环节后，洛夫莱斯2.0的评判就太过取决于观察者的主观感受。
未来仍有惊喜
查尔斯·巴贝奇的朋友艾达·洛夫莱斯曾参与计算机的发明，里德尔以她的名字命名了这项测试。她有句名言：“分析机［巴贝奇的计算机］并不声称能够创造任何东西。我们知道如何命令它做什么，它就能做什么。”这番话反映了一种至今仍广泛持有的观点：计算机程序的行为完全可以预测，只有人类智能才能做出令人惊讶、因而具有创造性的事情。
然而，在过去50年里，我们了解到复杂的计算机程序往往会表现出创造者意料之外的“涌现”特性。因此，在里德尔测试的情境中做出意料之外的事情，或许不足以表明原创性思维。人类创造力还有其他特征，体现了我们发现不同想法之间联系的能力——而这些联系此前我们并未察觉。我们可以把图像转成文字，再把文字转回图像；长时间反复琢磨想法，让它们经历潜意识过程；也可以通过交谈，让想法从一个人的大脑传到另一个人的大脑，从而激发概念以新的形式呈现。人工智能距离实现其中大多数能力还很遥远。
目前我认为，人工智能与人类协同工作时最能发挥作用：把我们富于想象力的思考能力，与计算机的记忆力、精确性和速度结合起来。关注人工智能的进展是有价值的，但这些测试在证明机器智能距离达到与我们匹敌的水平还有多远之前，不会展示出其他结果；而这还需要很长时间。
综合来看，我认为眼下我们还不必按下恐慌按钮。
本文与 《对话》合作发表。发表本文并不意味着世界经济论坛认同文中观点。
关注论坛：议程， 订阅我们的每周通讯。
作者：托尼·普雷斯科特，谢菲尔德大学认知神经科学教授、谢菲尔德机器人中心主任
图片：2010年6月22日，在新加坡举行的机器人世界杯比赛期间，一名参赛者举起自己的足球机器人让镜头拍摄。路透社／维韦克·普拉卡什。
