人工智能（AI）是一门研究如何创造能够以智能方式运行的软件和系统的学科。人工智能科学家构建的系统能够解决推理任务、从数据中学习、作出决策和规划、玩游戏、感知周围环境、自主移动、操纵物体、回应以人类语言提出的问题、在不同语言之间翻译，等等。
数十年来，人工智能一直激发公众的想象，尤其是以拟人化机器人的形式；近期的进展则让人工智能进入大众视野并得到应用：IBM 的“Watson”计算机击败了最优秀的人类 《Jeopardy!》 选手；统计方法显著改进了 Google 的自动翻译服务以及 Apple Siri 等数字个人助理；半自主无人机在世界各地监视并打击军事目标；Google 的自动驾驶汽车已在公共道路上行驶数十万英里。
自 20 世纪 50 年代以来，人工智能取得了长足进步，但能够替代任意人类劳动的机器这一最初梦想仍未实现。一个重要教训是，正如汉斯·莫拉维克在 20 世纪 80 年代所写：“让计算机在智力测试或下棋方面达到成年人的表现水平，相对容易；但要让它们具备一岁儿童在感知和行动方面的技能，却很困难，甚至不可能。”
如今，人工智能领域已充分认识到这些及其他阻碍其发展的挑战，但近期一项调查显示，引用次数最多的在世人工智能科学家仍预计，人类水平的人工智能将在本世纪后半叶问世，甚至可能更早；再过几年或几十年，还将出现远比人类聪明的人工智能。如果他们的判断正确，这一进步很可能改变人类活动的几乎所有领域。
如果妥善应对这一技术转型，它可能大幅提升生产力和生活水平。另一方面，如果应对失当，后果可能是灾难性的。我们可能会在哪些方面应对失当？
与公众的看法和好莱坞剧本所描绘的不同，先进人工智能似乎不太可能突然拥有意识并变得恶意。相反，核心问题在于如何使人工智能的目标与人类目标保持一致。如果构建出的人工智能比人类更聪明，而其目标设定与创造者的本意存在细微差异，那么我们能否阻止它们动用一切可用资源来追求这些目标，并不明确；这就像黑猩猩无法阻止人类做自己想做的事一样。
不过，在较近的未来，还有许多其他社会挑战需要应对。预计未来几十年，人工智能将在许多职业中部分或完全取代人类劳动；人类劳动者能否足够迅速地重新培训，以维持较高的就业水平，目前尚不明确。
此外，尽管以往的技术浪潮也创造了新的工作类型，但这一次，结构性失业可能会成为永久现象，因为人工智能可能比人类更擅长完成它所创造的新工作。这或许需要彻底重构经济，并引发有关经济交易本质以及人类能够为彼此做些什么的根本问题。
自动驾驶汽车以及其他人机交互情形，需要适用于 自动决策与造成身体伤害的能力这一新颖组合的法律解决方案。自动驾驶汽车将遇到必须权衡乘客受伤风险与行人受伤风险的情形；对于认为车辆作出了错误决定的各方，法律将提供何种救济？
有几个国家正在致力于研发致命性自主武器系统。这类系统能够评估信息、选择目标并在无人干预的情况下开火。此类发展带来了 国际法和非战斗人员保护方面的新挑战。如果这些系统违反国际法，谁应承担责任？《日内瓦公约》对此并不明确。人类干预发生的时点也不明确：是在部署前，还是部署期间？人类会参与自主武器的编程；问题在于，武器部署的那一刻，人类是否就不再对其进行控制。
人工智能在金融及其他领域的应用带来了相关风险：人工智能程序能够在有人类察觉并作出反应之前，作出数百万个具有重大经济影响的决策，例如导致了 2012 年 5 月的一次交易事件，险些使 Knight Capital 破产。
简言之，许多领域都需要开展积极主动、着眼未来的工作，以遏制理查德·波斯纳所说的“技术进步往往快于对技术的社会控制”这一趋势。
作者：斯图尔特·罗素是加州大学伯克利分校计算机科学教授及 Smith-Zadeh 工程学教授。伯恩哈德·彼得迈尔是世界经济论坛技术先驱项目高级社群经理。
图片：2013 年 3 月 9 日，在苏黎世举行的“机器人巡展”上，儿童触摸人形机器人 Roboy 的手。路透社／Michael Buholzer
