他是世界上最聪明的人之一，也是一位电影明星。如今，他还是 Reddit“问我任何事”活动的参与者之一 （AMA）系列活动。物理学家史蒂芬·霍金本周在该活动中作出了回应。您错过了什么？我们在下方整理了问题与答案。
问：人工智能是邪恶的吗？
答：人工智能真正的风险不在于恶意，而在于能力。超级智能的人工智能将极其擅长实现其目标；如果这些目标与我们的目标不一致，我们就会陷入麻烦。你大概不是一个出于恶意而踩死蚂蚁的蚂蚁憎恨者，但如果你负责一个水电绿色能源项目，而该地区有一座蚁丘将被淹没，那就只能对蚂蚁说声抱歉了。不要让人类处于那些蚂蚁的位置。请鼓励你的学生不仅思考如何创造人工智能，还要思考如何确保其被有益地使用。
问：我们应当现在就警惕人工智能的威胁，还是只需关注遥远未来的威胁？
答：后者。人工智能研究人员对于构建人类水平及更高水平的人工智能需要多长时间尚无共识，因此请不要相信任何声称确定它会在自己有生之年发生、或确定不会在自己有生之年发生的人。当它最终出现时，很可能是人类历史上最好或最坏的事情，因此把这件事做对价值巨大。我们应当将人工智能的目标从创造纯粹的无定向人工智能，转向创造有益的智能。弄清楚如何做到这一点可能需要数十年，因此让我们从今天就开始研究，而不是等到第一个强人工智能开启的前一夜才着手。
问：人工智能能否超越其创造者——即人类——变得“更聪明”？
答：某物获得比其祖先更高的智能显然是可能的：我们进化得比类人猿祖先更聪明，爱因斯坦也比他的父母更聪明。你所问的界限在于，人工智能在人工智能设计方面超越人类，从而能够在无人类帮助的情况下递归地自我改进。如果这种情况发生，我们可能会面临智能爆炸，最终产生的机器，其智能超越我们的程度，将超过我们超越蜗牛的程度。
问：人工智能是否会具有与人类相同的基本驱动力，即生存与繁衍？
答：通过设计而非进化产生的人工智能，原则上可以拥有任何驱动力或目标。然而，正如史蒂夫·奥莫亨德罗（Steve Omohundro）所强调的，极其智能的未来人工智能很可能会发展出一种驱动力，即为实现其所设定的任何目标而生存并获取更多资源，因为生存并拥有更多资源将提高其实现该目标的机会。这可能会给资源被夺走的人类带来问题。
问：先进自动化是否会使世界最终陷入“技术性失业”？
答：如果机器能生产我们所需的一切，结果将取决于分配方式。如果机器所创造的财富被共享，每个人都能享受奢华的闲暇生活；但如果机器所有者成功游说反对财富再分配，大多数人则可能陷入悲惨的贫困。到目前为止，趋势似乎正朝第二种选择发展，技术正在推动日益加剧的不平等。
您可以阅读史蒂芬·霍金的完整AMA问答，以及数千条读者评论， 请访问Reddit。
您是否读过？
史蒂芬·霍金：“我们都是时间旅行者”
作者：史蒂芬·霍金，理论物理学家、宇宙学家、作家，剑桥大学理论宇宙学中心研究主任。报道：世界经济论坛媒体关系部美国及行业媒体负责人Peter Vanham
图片：理论物理学家史蒂芬·霍金于2008年5月11日在开普敦的一次公开会议上发言。路透社/Mike Hutchings
