如果说史蒂文·斯皮尔伯格1993年的经典之作《侏罗纪公园》中有一句经得起时间考验的台词,那大概就是杰夫·戈德布卢姆的那句感叹:“你们的科学家只顾着考虑他们能不能做到,却没有停下来想一想他们应不应该做。”
戈德布卢姆饰演的角色伊恩·马尔科姆博士,曾警告人们不要天真地摆弄恐龙DNA,以期让这些已灭绝的生物重获新生,并批评这种狂妄自大的做法。二十五年过去了,随着越来越多的科学家和公司开始思考如何在“能够”与“应该”之间把握分寸,他的这些话语有了新的现实意义,这些领域涵盖基因编辑、现实世界中的“去灭绝化”,以及人类增强、人工智能等诸多领域。
尽管人们日益担忧,新兴的强大技术可能带来难以预料、影响广泛的后果,创新者们仍在努力探索如何在开发有益新产品的同时承担社会责任。答案的一部分或许就在于多观看科幻电影,例如《侏罗纪公园》。
好莱坞对社会风险的启示
我长期以来一直关注创新者和其他人如何更好地理解围绕新兴技术相关的社会风险与收益日益复杂的局面。科技对就业、隐私、安全乃至人们不受无端干扰地生活的能力所产生的影响日益受到关注,这凸显了需要以新思维来思考如何负责任地进行创新。
新想法需要创造力和想象力,以及以不同方式看待世界的意愿。而这正是科幻电影可以发挥作用之处。
科幻电影当然以在准确描绘科学和技术方面出了名地不靠谱著称。但由于其情节往往由人与技术之间错综复杂的关系所驱动,它们在揭示影响成功且负责任创新的社会因素方面,往往具有非同寻常的洞察力。
这一点在《侏罗纪公园》中体现得十分明显。这部电影为思考现代基因工程的利弊,以及人们对让已灭绝物种起死回生日益增长的兴趣,提供了一个出人意料的良好起点。它还引发了关于涉及人与技术的复杂系统之本质的讨论,以及由权力、财富和缺乏问责所驱动的“无许可”创新可能带来的危险。
其他许多电影也有类似的启示,包括斯皮尔伯格2002年的电影《少数派报告》——该片预示了人工智能驱动的犯罪预测能力的日益增长,以及它所引发的伦理难题;还有2014年的电影《机械姬》。
与《侏罗纪公园》一样,《机械姬》围绕一位富有且不受约束的企业家展开,他对自己的能力极为自信。在这部影片中,所涉及的技术是人工智能。
这部电影讲述了一位自负的天才的故事,他创造了一台卓越的智能机器,却缺乏认清自身局限和所作所为风险的觉察力。影片还深刻揭示了创造出比我们更了解自己、且不受人类规范或价值观约束的机器可能带来的潜在危险。
其结果是一个发人深省的提醒:如果缺乏谦逊和足够的人性,我们的创新可能会反过来伤害我们。
《侏罗纪公园》、《少数派报告》和《机械姬》中的技术超出了目前的可能性。然而,这些影片所描绘的内容往往与新兴趋势足够接近,因此它们有助于揭示不负责任或仅仅是天真的创新所带来的危险。这正是这些影片以及其他科幻电影可以帮助创新者更好地理解他们所面临的社会挑战并知道如何应对的地方。
银幕上推演出的现实问题
在《纽约时报》近期的一篇评论文章中,记者卡拉·斯威舍提出了疑问:“谁来教硅谷讲伦理?”在科技公司屡次做出存在社会争议的决定的背景下,斯威舍认为,其中许多公司需要成熟起来,并认真对待伦理问题。但仅靠伦理往往是不够的。良好的意图很容易被财务压力淹没,并陷入社会现实的泥潭。
如果科技公司想要变得更加负责任,它们越来越需要找到某种方式,打破一切照旧的惯例。Facebook和Uber等公司的备受关注的案例,以及特斯拉的埃隆·马斯克,都凸显了在未充分理解以人为本的行动后果的情况下开展业务,所带来的社会与商业双重危险。
还有更多公司正努力研发具有社会效益的技术,并发现如果缺乏必要的洞察和工具,它们很可能会在黑暗中盲目摸索。
例如,今年早些时候,来自谷歌和DeepMind的研究人员发布了一套人工智能驱动系统的详细信息,该系统的唇读能力远超人类。据论文作者称,该技术在改善有语言表达障碍人士的生活方面具有巨大潜力。然而,不难想象,同一技术也可能威胁数以百万计人群的隐私与安全,尤其是在与远距离监控摄像头结合使用的情况下。
要以对社会负责的方式开发此类技术,仅有良好的意图或仅仅设立一个伦理委员会是不够的。人们需要深入理解技术与社会之间往往复杂的动态关系。虽然,正如Mozilla的米歇尔·贝克所建议的那样,与人文学科接触的科学家和技术专家可能会有所帮助,但这还远远不够。
电影是通往严肃学科的便捷途径
贝克所说的创新者急需的互补技能的“新表述”,在一个专注于负责任的社会创新的蓬勃发展的跨学科社群中已经存在。我所在的院校,亚利桑那州立大学社会创新未来学院,只是其中的一部分。
这一全球社群中的专家们正在积极探索,将良好的理念转化为负责任的实践。这其中包括需要对技术创新周边社会格局的创造性洞察,以及想象力,以开发驾驭这一格局的新颖方法。
正是在这里,科幻电影成为指引创新者、科技领袖以及他们所在公司的有力工具。其虚构的情景能够揭示潜在的陷阱与机遇,帮助引导现实世界的决策走向具有社会效益和负责任的结果,同时避免不必要的风险。
科幻电影也能将人们凝聚在一起。就其本质而言,这些影片在社会与教育层面具有平等化作用。看看谁在观看和讨论最新的科幻大片,你往往会发现一个多元化的社会横截面。这一类型的影片有助于在了解科学与技术如何运作的人,与了解如何确保它们为社会福祉服务的人之间搭建桥梁。
这是我的新书所蕴含的核心主题,书名为《来自未来的电影:科幻电影中的技术与道德》》。本书面向任何对技术创新中的新兴趋势及其可能如何影响社会感到好奇的人,同时也面向那些想要做正确的事、却不知从何入手的创新者。
当然,仅靠科幻电影不足以确保具有社会责任感的创新。但它们可以帮助揭示技术创新者所面临的一些深刻社会挑战,以及应对这些挑战的可能途径。而要学习如何负责任地创新,还有什么比邀请朋友来家里、打开爆米花、播放一部电影更好的方式呢?
这当然胜过在风险面前措手不及,而这些风险回头看本是可以避免的。





