1月，英裔美国计算机科学家 斯图尔特·罗素 起草并成为首位签署者，签署了 一封公开信 ，呼吁研究人员超越单纯增强人工智能能力这一目标。信中写道：“我们建议扩大研究，确保能力不断增强的人工智能系统稳健且有益。”“我们的人工智能系统必须按照我们的意愿行事。”此后，数千人签署了这封信，其中包括谷歌、脸书、微软及其他行业中心的顶尖人工智能研究人员，以及世界各地的杰出计算机科学家、物理学家和哲学家。到3月底，约有300个研究团队申请开展新的研究，探索“如何让人工智能保持有益”；相关资金由这封信的第37位签署者、发明家兼企业家埃隆·马斯克捐助。
现年53岁的罗素是计算机科学教授，也是加州大学伯克利分校智能系统中心的创始人。他长期以来一直在思考思维机器的力量及其危险。他发表了200多篇论文，还与彼得·诺维格（谷歌研究主管）合著了该领域的标准教科书《 人工智能：一种现代方法 》。然而，人工智能日新月异的进步，使罗素长期以来的忧虑变得更加迫切。
他说，近来人工智能取得了重大进展，部分得益于 受神经科学启发的学习算法。这些算法应用于脸书的人脸识别软件、智能手机个人助理和谷歌自动驾驶汽车。在最近 发表于 《自然》的一项轰动性研究中，一个模拟人工神经元网络学会了玩雅达利电子游戏，短短数小时内便胜过人类。它只获得了代表屏幕画面以及提高屏幕顶部得分这一目标的数据，却没有任何关于外星人、子弹、左、右、上或下的预编程知识。“如果你的新生儿能做到这一点，你会觉得它被附了身，”罗素说。
《广达》杂志 在早餐期间采访了罗素。当时他正在德克萨斯州圣安东尼奥举行的美国物理学会2015年3月会议上，只停留不到24小时，并发表了一场座无虚席的人工智能未来主题演讲。在这篇经编辑和删节的访谈中，罗素探讨了智能本身的本质，以及如何在机器中安全地近似实现智能所面临的巨大挑战。
阅读本文其余内容，请访问 《广达》杂志。
本文由 Quanta合作发布。发表本文并不代表世界经济论坛认同其中的观点。
订阅《议程》 每周通讯，及时了解最新动态。
作者：斯图尔特·罗素是加州伯克利大学计算机科学教授，并担任迈克尔·H·史密斯与洛特菲·A·扎德工程学讲席教授。
图片：本田研发的人形机器人 ASIMO 在约翰内斯堡纳斯雷克展览中心举行的约翰内斯堡国际车展上为一位访客奉茶。路透社/西菲韦·西贝科
