著名理论物理学家， 斯蒂芬·霍金，重新引发了关于这样一个问题的讨论：我们寻求改进人工智能，是否终有一天会造就思维机器，取代人类。
这位英国科学家在接受 BBC 一次内容广泛的采访时提出了这一说法。霍金患有运动神经元疾病——肌萎缩侧索硬化症（ALS）；采访还谈到了他正在使用的一项帮助他交流的新技术。
这项技术通过建模分析他以往的用词来预测他接下来会使用哪些词，类似于许多智能手机设备提供的预测文本功能。
但霍金教授还提到了他对机器发展可能超越人类的担忧。
“一旦人类开发出人工智能，它就会自行发展，并以不断加快的速度重新设计自己，”据 报道，他告诉 BBC。
“全面人工智能的发展可能意味着人类的终结。”
思维机器会取代人类吗？
像霍金教授这样声望卓著、能力出众且值得信赖的人提出计算机可能取代人类（终有一天甚至会终结人类）的议题，我认为值得重视，也值得迅速回应。
机器智能这一议题至少可以追溯到英国密码破译者、计算机科学之父 艾伦·图灵 在 1950年提出的问题：“机器能思考吗？”
这些智能机器取代人类的议题，以各种方式出现在多种大众媒体和文化作品中。比如电影 《巨像：福宾计划》 （1970 年）和 《西部世界》 （1973 年），以及较近时期的 1984 年电影 《终结者》 及其续集中的天网，等等。
这些作品都涉及将责任交由机器承担的问题。 技术奇点 （或机器超级智能）的概念至少可以追溯到 人工智能先驱、 雷·所罗门诺夫 在 1967年发出的警告：
尽管近期看不到出现极其智能机器的可能，但它们带来的危险十分严重，相关问题也极为棘手。如果在问题出现之前，有大量聪明人认真思考这些问题，那就再好不过了。我觉得，人工智能的实现会是突然发生的。在研究发展到某个阶段之前，我们还没有任何关于严肃程度的机器智能的实际经验；但大约一个月后，我们就会拥有一台非常智能的机器，以及所有与经验不足相关的问题和危险。
除了在 1967 年提出这种与霍金警告相似的说法外， 1985 年，所罗门诺夫还试图为技术奇点设定时间尺度，并思考其社会影响。
我认同 所罗门诺夫、 霍金 等人对更快、更智能的机器可能带来后果的担忧，但美国作家、计算机科学家和发明家 雷·库兹韦尔是众多看到其益处的人之一。
无论最终谁的判断正确（只要在此期间地球没有被其他危险摧毁），我认为 所罗门诺夫 在 1967 年倡议我们认真思考这一问题，确实有先见之明。
机器已经在取代人类
与此同时，我们看到越来越多的责任被交给机器。一方面，这可能是手持计算器、常规数学计算或全球定位系统（GPS）。
另一方面，这可能是空中交通管制系统、制导导弹、矿区的无人驾驶卡车，或最近在我们道路上试运行的 无人驾驶汽车 。
人类将责任交给机器，原因包括提高效率、降低成本和提升准确性。但如果发生诸如 无人驾驶车辆造成损害的噩梦般情形，就会涉及法律、保险以及责任归属问题。
有人认为，当计算机的 智能 超过人类时，计算机可能会取代人类。但这种责任委托也伴随着其他风险。
机器出错
有人认为，1987 年股市崩盘在很大程度上是由 计算机交易造成的。
计算机错误也曾导致电网关闭。更小的层面上，我那爱管闲事的拼写检查器有时会“更正”我写的内容，结果变成可能冒犯他人的话。这算计算机错误吗？
硬件或软件故障可能难以发现，但即使没有黑客或恶意意图，它们仍可能在大型系统中造成严重破坏——有了黑客或恶意意图，情况很可能更糟。那么，我们究竟能在多大程度上相信机器承担重大责任时能比人类做得更好？
即使计算机没有有意识地夺取控制权，我也能想象计算机系统失控的多种途径。这些系统可能速度极快、组件极其微小，以至于难以补救，甚至难以关闭。
部分出于呼应 所罗门诺夫的 1967 年论文的想法，我希望编剧和人工智能研究人员携手构思这类情景，进一步推动公众讨论。
举一个可能的情景：某些语音可能被错误地转换成文本，又被糟糕的自动翻译进一步扭曲，最终导致机器指令出现细微错误，酿成各种混乱。
另一个或许相关、令人头疼的问题，可能来自利用更快的统计和机器学习方法分析有关人类大脑的大数据。（有些人甚至会大胆补充：难道我们人类就是一切美好、道德与正义的堡垒吗？）
正如所罗门诺夫在 1967年所说，我们需要开展这场公众讨论；鉴于利害如此重大，我认为现在就应该尽快进行。
本文与 The Conversation
合作刊发。作者：戴维·多伊是莫纳什大学克莱顿信息技术学院副教授。
图片：2010 年 6 月 22 日，在新加坡举行的 RoboCup 锦标赛期间，一名参赛者将一台踢足球的机器人举起，对着镜头展示。路透社/维维克·普拉卡什。
