本文与 The Conversation合作发表。
机器人学家 萨比内·豪尔特，来自英国布里斯托大学， 今年早些时候在《自然》杂志上撰文 ：
我和同事们常常在晚宴上解释，我们并非邪恶 […]
她说，人们感到担忧。
他们听到的讨论大多是单方面的，因此担心机器人会抢走他们的工作，恐惧人工智能会构成生存威胁，并想知道是否应当立法，以便将这项假想中的技术置于“控制”之下。
好莱坞持续泛滥的人工智能（AI）与恐机器人题材剧本，并未缓解这些恐惧。
很难举出近期主流电影的例子，其中的机器人和人工智能并未带有人工智能恐惧（《超验骇客》、 《鹰眼》）或机器人恐惧（《遗落战境》、任何一部 《机器战警》 系列电影、 《机械姬》）的场景。
独立小成本犯罪喜剧片《 机器人与弗兰克 》，以及《 她》中人工智能相对温和地抛弃人类的情节，片中角色随后投奔了更酷的、以艾伦·沃茨为原型的超级智能。这些是目前能想到的、唯一未屈从于当下盛行的 人工智能恐慌 与机器人恐惧情绪的作品。
机器人和人工智能确实是出色的电影反派。然而在现实中，目前还没有人清楚如何让机器人以现象学上可信的方式“想要”或“感受” 任何东西 ，更不用说如何让它们成为一心要统治世界并灭绝 智人的反社会者。
它们更可能无意中变成危险的 “白痴天才” ，而不是恶意的霸主，以让人类“屈膝”来获取病态的快感。
遵循规则的机器人下国际象棋水平很高，但它们 并不会感受到 输赢的任何情绪。它们只是选择能优化数学价值函数的走法。人类习惯将智能与欲望联系在一起，但作为 经形式化建模的 “欲望”（如图灵机规则手册中所描述的），与驱动人类的愤怒、嫉妒和“命运多舛的爱情”这类剧烈力量，是截然不同的两回事。
负责任的机器人
周末期间，两家新的人工智能与机器人非营利组织宣告成立。两者以不同方式回应了公众对人工智能和机器人安全性的担忧。
首个是负责任机器人基金会（FRR），该基金会希望“促进对嵌入我们社会中的机器人承担责任”。
该基金会由 诺尔·夏基 与多位机器人专家共同领导。该机构旨在与政策制定者接触，组建由机器人学、法学、伦理学和社会学者组成的跨学科团队，探究作为机器人研究者和设计者，“负责任”究竟意味着什么，并开展研讨会及公众参与活动。
夏基以其积极参与 制止杀手机器人运动而为人所知，他担心“我们正一头扎进机器人革命”，却未对可能出现的社会问题给予足够的政策思考。
他表示，各国政府将机器人视为“强大的新经济引擎”，但“对一长串潜在的社会危害只是口惠而实不至”。
新技术可能导致 大规模失业 ，或者机器人与自动化可能加剧社会不平等，形成一个由机器人所有者（居住在封闭社区中）与无机器人的底层阶级（在荒芜焦土般的地球上挣扎）组成的割裂社会，正如 《极乐空间》 中所描绘的那样。
负责任机器人基金会希望确保公众对机器人研究抱有信心，并确保机器人的开发充分尊重其人权与选择自由。
为所有人服务的人工智能
OpenAI由 埃隆·马斯克、 彼得·蒂尔 及多位科技企业家支持。
他们的重心更多在于研究，并致力于让先进的人工智能免费开放。他们力图推动“深度学习”方面的创新，即一种这样的技术：不再为每个问题“手工编写新算法”，而是设计能够根据输入数据自我调整、演化为多种算法的架构。
他们的目标是“以最有利于全人类的方式推进数字智能，且不受获取经济回报需要的约束”。
当“人类水平的人工智能”到来时，OpenAI认为，重要的是存在“一个能够将所有人的良好结果置于自身私利之上的领先研究机构”。
他们表示：“我们的研究人员将被鼓励发表其成果，无论是以论文、博客文章还是代码形式，我们的专利（如有）也将与世界共享。”
OpenAI的支持者已承诺投入十亿美元资金，尽管他们预计“未来几年仅会花费其中的一小部分。”
OpenAI主要致力于让先进人工智能开放获取，从而降低出现“人工智能拥有者与非拥有者”两极分化世界的风险。这是个好主意。如果该团队能够保持竞争力，并将先进人工智能保持为开源，这应当能降低人们因经济原因而被排除在先进人工智能之外的风险。
负责任机器人基金会的议程更为广泛，涵盖政策参与，以及提升专业人士和公众对机器人伦理问题的认识。这同样是一项值得做的工作。人工智能与机器人研究者往往是硬科学家，不习惯进行伦理辩论。
科学家需要从经验领域迈向规范领域。作为公民可信赖的思想领袖，他们应当跨越“是”与“应当”之间的界线，参与政策辩论。
但愿这两个团体都能为当前蔓延的人工智能恐慌与机器人恐惧提供解药。
发表文章并不意味着世界经济论坛认同其观点。
要及时了解议程，请 订阅我们的每周通讯。
作者：肖恩·威尔士，坎特伯雷大学机器人伦理学博士候选人。
图片：一台人形机器人在仪式上“脸红”。路透社/Wolfgang Rattay。
