人工智能（AI）领域的一些领军者已联合呼吁，任何相关研究都应聚焦于我们能够从人工智能中获得的益处，“同时避免潜在陷阱”。人工智能研究仍在不断探索开发新技术的方法，使其能够承担目前由人类执行的任务，但这并非没有批评和担忧。
我不确定这位著名的英国理论物理学家 斯蒂芬·霍金 是否懂得反讽，但颇具讽刺意味的是，他最近在欢迎那款控制其语音的智能预测软件问世时， 警告我们 说：
完全人工智能的发展可能意味着人类的终结。
当然，霍金并非唯一持这种看法的人。连续创业者兼技术专家埃隆·马斯克 去年也警告 说：
……我们应该非常谨慎地对待人工智能。如果要我猜测我们最大的生存威胁是什么，那很可能就是它。
两人都谈到了一个触及深层心理恐惧的问题，这种恐惧数百年来一直困扰着人类。如果我们的创造物最终导致我们自身的毁灭，会发生什么？玛丽·雪莱的《弗兰肯斯坦》等故事就表达了这种恐惧。
一封关于人工智能的公开信
为回应此类担忧，业界和学术界的顶尖人工智能研究人员（以及霍金和马斯克）刚刚签署了一封 公开信 。
签署者包括 人工智能促进协会的会长、人工智能初创公司 DeepMind 和 Vicarious的创始人，以及谷歌、微软、斯坦福大学和其他机构的知名研究人员。
坦率地说，我也是最早签署这封信的人之一，签名名单每天都在获得更多支持。
公开信指出，目前人们普遍认为，人工智能研究正稳步推进，其对社会的影响可能会不断扩大。
因此，公开信得出结论：我们需要开始研究，确保能力日益增强的人工智能系统既稳健（在其行为方面），又有益于人类。例如，我们需要弄清楚如何构建人工智能系统，使社会更加繁荣，即便是那些因此失去工作的人也能受益。
公开信附有一份文件链接，其中列出了在开发人工智能之前应着手解决的一些 跨学科研究重点 。其中既包括优化经济效益等短期重点，也包括能够验证人工智能系统形式属性等长期重点。
人工智能对社会构成的威胁
好莱坞塑造了许多令人难忘的人工智能可能给社会带来威胁的图景，从阿瑟·C·克拉克的 《2001太空漫游》 到 《机械战警》 和 《终结者》 ，再到近期影片，例如 《她》 和 《超验骇客》，这些作品描绘的都是一个因人工智能而改变的未来，充满反乌托邦色彩。
我认为（许多同事也持相同看法），人工智能威胁社会未来的情形，可能还远未到来。
过去30或40年来，人工智能研究人员一直预测还要再过30或40年才会实现。如今如果问他们中的大多数人，他们（和我一样）仍会说，可能还要再过30或40年。
让计算机表现出智能，是一项难以攻克的科学难题。人类大脑的复杂程度远远超过我们所知的任何其他系统。要复制人类展现出的那种智能，很可能需要人工智能领域取得重大进展。
人类大脑仅凭20瓦功率就能完成所有神奇功能。这是一项了不起的工程成就。
社会面临的其他风险
人类还面临着更为迫近的危险，例如气候变化或持续不断的全球金融危机。这些问题需要立即关注。
牛津大学人类未来研究所 还列出了一 长串威胁 ；除了人工智能之外，其中威胁社会的因素还包括：
纳米技术
生物技术
资源枯竭
人口过剩。
这并不意味着人工智能中没有需要在不久的将来加以关注的方面。
面向未来的人工智能辩论
停止杀手机器人运动 正在推动一场辩论：我们是否需要禁止完全自主武器。
本月晚些时候，我将在美国得克萨斯州奥斯汀举行的人工智能促进协会 年度会议 上组织一场关于这一主题的辩论。
史蒂夫·古斯，人权观察武器部门主任，将支持禁令；而 罗恩·阿金，美国机器人学家和机器人伦理学家，将反对禁令。
另一个需要更快关注的问题，是人工智能对工作性质的影响。面对更多自动化、所需劳动力减少的情况，社会该如何适应？
如果我们能妥善应对，就能从生活中消除许多枯燥乏味的事务。如果应对不当，法国经济学家 托马斯·皮凯蒂 所记录的 日益加剧的不平等 只会进一步恶化。
我们将在首届 人工智能与伦理国际研讨会上讨论所有这些问题及其他议题。研讨会也将在美国举行，并纳入人工智能促进协会人工智能大会。
现在就展开这些辩论很重要，不仅是为了避免潜在陷阱，也是为了构建一个人工智能能够改善我们所有人生活的未来。
本文由 The Conversation合作发布。文章的发布并不意味着世界经济论坛认可其中观点。
关注Forum:Agenda， 订阅我们的每周通讯。
作者：托比·沃尔什是NICTA教授兼优化研究组负责人。
图片：Twendy-One是一款旨在帮助老年人和残障人士料理家务的机器人。2009年1月8日，它在东京早稻田大学演示端上吐司。路透社/加藤一诚。
