自动驾驶汽车应该优先保护你的生命，还是行人的生命？你的 Fitbit 运动数据是否应在法庭案件中被用来对付你？我们应否允许无人机成为新的狗仔队？人类基因可以申请专利吗？
科学家已经在为这类两难问题苦苦思索。随着我们进入机器时代，我们需要一套新的成文道德规范，使之成为全球准则。我们应当像重视“颠覆”等时髦词汇一样重视伦理。
这种转变已经开始。去年，美国卡内基梅隆大学宣布成立一个新中心，研究人工智能伦理；奥巴马总统执政期间，白宫发表了一篇关于同一主题的论文；包括 Facebook 和 Google 在内的科技巨头也宣布建立合作伙伴关系，为人工智能制定伦理框架。风险和机遇都巨大：斯蒂芬·霍金、埃隆·马斯克及其他专家签署了一封公开信，呼吁采取行动，确保人工智能造福社会：
“潜在收益巨大，因为文明所能提供的一切都是人类智慧的产物；我们无法预测，当人工智能可能提供的工具放大这种智慧时，我们能够取得什么成就，但消除疾病和贫困并非遥不可及。鉴于人工智能的巨大潜力，研究如何获取其益处并避免潜在陷阱至关重要。”
这些都是响亮的名字和宏大的理想。然而，许多努力缺乏全球合作。此外，第四次工业革命的影响远不止互联网和人工智能。
世界经济论坛创始人克劳斯·施瓦布教授认为，这一阶段将围绕“信息物理系统”展开，物理、数字和生物领域之间的界限日益模糊。随着我们拥抱机器时代，我们将面临新的伦理挑战，这些挑战需要新的法律来应对。在某些情况下，整个道德规范都可能需要重新启动。技术突破的本质即是如此。我们相信，人类很快将站在重新思考道德的门槛上，迈向伦理 2.0。
伦理的起源
源自哲学或宗教的伦理并不容易适用于技术世界。从亚里士多德到《十诫》，都为我们提供了道德指引，但任何既定规则体系往往都会遇到两难问题。科学界也有不少尝试，从阿西莫夫的机器人三定律到尼克·博斯特罗姆的伦理学研究。然而，人类要为自己的行为培养美德已然不易，更不用说将相关美德融入新技术。
伦理影响既涉及眼前问题（Facebook 和 Google 背后的算法如何影响从我们的情绪到选举的一切？），也涉及未来问题（如果自动驾驶车辆导致卡车司机不再有工作，会发生什么？）。以下列举一些我们将面对的伦理抉择，但绝非详尽无遗：
生命科学。是否应允许基因编辑来改造人类并创造“定制婴儿”？癌症研究者悉达多·穆克吉在其广受好评的著作《基因》中指出，基因组科学的进步将带来深刻的伦理问题。伦理问题不胜枚举：如果产前检测预测你的孩子智商只有 80 分，远低于平均水平，除非你进行少量基因编辑，那该怎么办？如果这些技术只有少数富人能够使用，又该怎么办？
人工智能、机器学习和数据。随着时间推移，人工智能将帮助我们做出各种决策。但我们如何确保这些算法的设计公平？如何消除这类系统中的偏见？这些系统最终将用于决定职位晋升、大学录取，甚至我们选择人生伴侣。
地方警察是否应使用面部识别软件？基于算法的预测性警务是否应合法？这会对我们的隐私产生什么影响？地方执法部门掌握尖端技术，是否会开启监控国家的时代？
社交媒体和电子设备。如果我们的 Kindle 内置面部识别软件和生物传感器，设备便能判断每句话如何影响我们的心率和血压，那会怎样？
机器人和机器。我们如何决定自动驾驶汽车可以做出哪些决定？我们如何决定机器人可以做出哪些决定？是否需要一份机器人版的权利法案？人类与机器人结婚的权利，以及机器人拥有财产的权利，又该如何看待？是否应允许高度先进的赛博格竞选公职？
前行之路
过去，新兴创新通常由自由市场决定其命运，随着时间推移，地方政府才会介入（优步在日本被禁，但在印度运营）。然而，在这种情况下，采取这种做法可能会酿成灾难。
我们不赞成政府妨碍创新；我们呼吁围绕 21 世纪的伦理问题开展协调一致的全球对话。对话应超越学术期刊和评论文章，纳入政府委员会以及联合国等国际机构。
迄今为止，我们采取的是各自为政的做法，从全球禁止克隆人到对转基因食品实施部分限制。不同地区的观点也各不相同，未能协调一致应对：欧盟管理新技术社会影响的方式与美国大不相同。另一方面，中国一向着眼长远。技术就像水，总会找到可以流动的空间。在彼此互联的世界里，只有获得国际共识支持，地方决策才会有效。
我们需要建立一个有组织的国际论坛，列出需要治理的技术，逐一评估，并制定其行为准则蓝图。例如，国际政府机构可以制定具体规则，比如强制公开某些人工智能算法背后的逻辑。
科学界不乏成功开展国际合作的案例。1987 年《蒙特利尔议定书》（旨在应对臭氧层损耗问题）以及1975 年阿西洛马会议（旨在规范 DNA 技术）便是其中的典型例子。
结语
人类将面临尚未回答过的问题。我们现在就需要开始讨论。
如果不提前做好准备，我们将面临多种风险。我们可能会把巨大的权力交给机器。我们可能在没有充分了解后果的情况下改变人类的发展轨迹。我们还可能造成“科技超级富豪”与庞大底层阶层之间的严重不平等。
任何看过屡获殊荣的电视剧《黑镜》哪怕一集的人，都应当担忧我们可能面临的反乌托邦未来——如果我们现在不解决这些艰深的哲学和法律问题。
这并非第一次技术革命。相关担忧并不新鲜；自工业革命以来，它们已存在了 200 多年。但正如历史学家兼哲学家尤瓦尔·赫拉利所说，这就像那个喊“狼来了”的孩子，最终说对了一次。
传统上，技术进步的速度超过政治进程：我们已经错过了为互联网起草道德宪章的时机，直到今天仍在奋力追赶。面对生物技术或人工智能等下一个前沿领域，我们不能措手不及。我们的未来日益由工程师和企业家塑造，而他们未必需要承担责任。
社会善于适应变化——从蒸汽机到 iPhone，再到人均寿命显著延长。正如比尔·盖茨所说，“技术本身没有道德属性”。如何使用技术、界限划在哪里，由我们决定。
本文最初发表于Medianama。另请参阅：《新兴技术伦理论文集》。
