第四次工业革命的四大伦理议题

“第四次工业革命给我们带来了巨大的力量，如今的我们应当要理性地使用这份力量。”

我们生活在一个具有变革性科学力量的时代——不仅可以改变人类物种的本质，还能从根本上改造地球。

科学技术和人工智能的进步与生命科学的进步联系密切——遗传学、生殖技术、神经科学、合成生物学等领域的进步与物理科学的进步之间，存在惊人的相互作用和一致性——这被称为第四次工业革命。

这些新的科学力量对于治疗和预防疾病、提高农业产量和提升生活各方面的质量都有很大的作用。然而，没有任何的科技是中性的，第四次工业革命中的这些科学技术也是这样。

因为这些技术最终将决定我们的未来，因此，不考虑是否利用、如何利用它们是一种极其不负责任的做法。值得庆幸的是，全球治理的需要越来越被世界各国所认同。世界经济论坛的执行主席克劳斯·施瓦布教授就曾经呼吁要在商界、政府、科学界、学术界和非政府公民组织之间“灵活治理”，建立公私合作关系。这个领域内颇负盛名的两位学者温德尔·瓦拉赫（耶鲁跨学科研究中心科技与道德方面主管）和Gary Marchant（英国林肯大学新兴技术、法学与伦理学教授，亚利桑纳州立大学法学、科学与创新研究院院长）提出了“协调治理委员会”（GCC）这个概念，用以服务各个科技组织并且充当诚实经纪人的角色。

不论这种全球治理将采取哪种方式、是否可能（并且也应该）采取多种方式进行，我们需要确保管理机构与公众就四个关键问题进行讨论。这些问题的答案需要科学的投入、以及我们愿意就面对的这些选择背后的伦理与社会影响进行讨论，二者缺一不可。

1、技术应该作为发展的第一位吗？
这个问题可能伴随着诸如关于禁止致命性自动化武器或者军事机器人的可能性之类的问题被提出。到目前为止，还没有离开人类的决策、致命性自动化武器自行选择目标并且摧毁对方的记录。然而，很多专家则认为，除非全球立即发布对致命性自动化武器的禁令，否则以上的情况将很快成为现实。

另一个例子是地球工程，这是一门改造地球生态条件的技术，常常用以改善气候条件从而减缓全球变暖的趋势。这是一项真正需要世界人民共同参与的全球性问题：一个国家的改善气候的行为不仅能够让本国收益，还能够给其它国家也带来好处。此外，有些战略可能会给整个地球带来一些未知的极大的潜在危险，比如在平流层散布纳米颗粒。科学也许可以、也许不可能评估风险，但是即使我们可以进行风险估计，识别出我们将会承受的风险大小；假设这种识别存在，也绝不仅仅是依靠科学本身可以完全回答的。最终，这是一个我们需要集体进行的道德评价。

2、对于一项技术，如何判断这项技术是否被利用、如何被利用呢？
在第四次工业革命期间，将会产生大量的所谓提高人类各方面水平的技术。有的关注于消除疾病；有的则会促使人类的能力朝着所希望的方向增强或减少，比如更强的运动能力、更好的记忆力或者减少冒进的行为。不是普遍意义上的利用诸如宣传或禁令的方式对人能力进行调节，这里提及的每一种方式都应当根据其对人类未来的繁荣发展产生积极或消极的影响的情况及进行衡量。

3、如果出现一项新的技术，那么应该如何去发展研究它呢？
这个问题关乎一项技术是如何被研究、又是如何存在于这个世界的。例如，美国国家科学、工程和医学科学院近期发布了一个里程碑式的研究报告：采用预防的方式来使用基因驱动器。基因驱动器是一门需要CRISPR Cas9基因编辑技术（“Crispr”是clustered regularly interspaced short palindromic repeats，即成簇的规律相间的短回文重复”的缩写，描述了这种技术的遗传学基础；“Cas9”是一种蛋白质的名称，正是它使“Crispr”成为可能。这门技术在治疗癌症和艾滋病上有重要作用。）支持的技术，它可以稳定增加某些种类的野生植物或动物的特定遗传元素的患病率。现在，基因驱动器已经被用作控制甚至是根除一些虫媒疾病的手段了，常常用来辅助疟疾和寨卡病毒（2014年美洲出现的一种虫媒病毒暴发流行病，有低热、斑丘疹、关节疼痛、结膜炎等症状）的防治。美国国家科学院的报告鼓励基因驱动技术的发展，同时也告诫各研究人员谨慎研究——生物工程研究成果在野外试用之前，须首先在实验室的设备和小范围内进行研究。

4、一旦规范已经被设置，如何进行现场监测，确保规范的实施？
如今，许多领域存在研究和技术扩散的指导方针，但是在确保规范实施或者监察排除不规范机构方面却存在极大的技术鸿沟。例如，在管理某些有毒化学品方面有健全的管理规例，但是却缺少监控和监察化学实验室的监管人员和资金。在21世纪，治理机制必须应对地区所需要的强制性规定及其执行的问题。

“仅仅只有事实是不够的”
这些问题的答案都需要事实来回答，但是仅仅只有事实是不够的。所有这四个问题都需要我们对价值观进行讨论的意愿支持，即使关于价值观的讨论会引发争议和冲突。

安全保证也许是最没有争议的价值观了。世界上大部分人都坚信，降低个人受到新技术伤害的可能性是一种义务。事实上，大多数的现有监管机构的主要责任确实是促进安全。

但是还有其他的非常重要的价值，他们也是成败的关键，却常常受到冷遇。首先，我们应该致力于公平性的保证——从而保证所有人无论是否是通过经济手段，都能够享受科技带来的好处。否则，我们将会加剧Hastings Center的学者Erik Parens所谓的“穷人和富人之间固有的不入流的鸿沟”。

更难展开讨论的价值观，是关于如何存于世界之上、我们人类是如何相互联系、人类如何与大自然相联系的话题。
比如说，有的人担心，人类基因工程可能会改变亲子之间的纽带，鼓励一些父母利用“超级机构”“设计”一个他们想要的孩子而不是去培育孩子活出自我。

诸如对荒野地区的管理和内在价值的尊重等价值观，在我们的讨论或者是关于不利于经济发展的错误框架等的研究中是常常被忽略的。这些问题的背后大都是人类应该如何干预改变我们物种、其他物种以及环境的性质之类的伦理问题。是否存在一个水平线来界定，人类的干预是一种野蛮行为或者说是对于自然和谐相处的美德的背离，而不是合理的统治治理？

总之，第四次工业革命给我们带来了巨大的力量。如今的我们应当要理性地使用这份力量。采用多种方式进行治理需要公众和各领域的专家们共同努力。同时，不管是通过什么手段、在什么技术领域，我们应当做好至少有四个关键的问题需要回答的心理准备。在回答这些问题的过程中，我们需要深思熟虑，对那些难以调和的价值观进行有思想的对话。这条发展之路注定伴随着强烈的意见冲突，因此我们人类必须尽快地进行一次对话讨论。

作者：Mildred Solomon 是The Hastings Center研究所所长，The Hastings Center是世界上第一个生物伦理学研究所，如今发展为一个无党派、多学科的非营利组织，关注哲学、法学、政治学和教育学等领域，并为提高公众理解而针对医学、科学和技术方面的伦理学问题制作书籍、文章和其他出版物。

以上内容仅代表作者个人观点

本文由达沃斯博客原创，转载请注明来源并附上原文链接

翻译：达沃斯博客翻译小组——胡静璇

世界经济论坛博客是一个独立且中立的平台，旨在集合各方观点讨论全球、区域及行业性重要话题。