本文由世界经济论坛与 Quartz 合作发布。
在天网产生自我意识、 机器人起而反抗之前，我们需要建立一套机制，以安全地开展人工智能研究。谷歌母公司董事长埃里克·施密特与其科技智库 Google Ideas 负责人贾里德·科恩持此观点。
施密特长期看好这项技术的前景，支持 Alphabet 的自动驾驶汽车计划和谷歌的 DeepMind 预测搜索引擎等实验项目。他认为人工智能将彻底改变我们的工作和生活方式，甚至曾告诉人们 不必害怕 生活在一个充满人工智能的世界里。
不过，施密特似乎也承认，人工智能研究需要保持一定程度的谨慎，正如其他科技界知名人士（例如物理学家 史蒂芬·霍金 和特斯拉首席执行官埃隆·马斯克）所呼吁的那样。（马斯克甚至与一群自称 OpenAI 的科学家和技术专家共同承诺投入 10 亿美元，以 推动人工智能研究 ，使其“对人类产生积极影响”。）施密特和科恩在《时代》杂志的一篇 评论文章 中阐述了他们认为开发者、研究人员和企业在探索人工智能时应遵循的三项原则：
“第一，人工智能应惠及多数人，而非少数人。”
施密特和科恩认为，这种足以改变生活的技术应惠及所有人，而不应只让企业受益。他们写道：“作为一个社会，我们应善用这一潜力，并确保人工智能始终以公共利益为目标。”
人工智能研究“应当开放、负责并积极参与社会事务”。
谷歌和 Facebook 最近都采取了举措，致力于提高人工智能研究的透明度。Facebook 最近 公布了设计方案 ，介绍其用于人工智能研究的服务器；谷歌则 将代码开源 ，公开了其人工智能引擎 TensorFlow 的代码。不过，关键在于，两家公司都没有公开用于训练、测试和增强其人工智能算法的数据，而这些数据可能是决定它们能否成功的关键因素。
“人工智能设计者应建立最佳实践，以避免不良后果。”
在系统仍处于开发阶段时，研究人员需要自问：用于训练人工智能系统的数据是否恰当；研究是否存在需要考虑的副作用；系统内是否设有充分的安全保障。施密特和科恩写道：“应建立验证机制，评估人工智能系统是否在执行其设计目的。”
人工智能正迅速从科幻走向现实。值得庆幸的是，我们目前还不必担心计算机系统 引发世界末日 ，但已有智能系统能够 诊断癌症、 替我们安排日程 ，还可以 自行打扫地板 。如果科学家和思想深邃的人士所言属实，一旦我们研发出能够真正自主思考和行动、拥有自主权的人工智能系统，它们很快就会在智能水平上 远远超越我们 。为了掌控这一进程，我们应引导这种智能的发展，使其造福人类，而不是扰乱人类社会。 本文刊发不代表世界经济论坛认同其中观点。
如需了解更多议程动态， 请订阅我们的每周通讯。
作者：迈克·墨菲是 Quartz 的记者，报道科技领域。
图片：人形机器人 AILA（轻型人工智能安卓机器人）的手在德国人工智能研究中心的一场演示中操作配线板。路透社/法布里齐奥·本施。
