2012年7月31日，印度东北部遭遇大规模停电。当地时间下午1点，中央邦的一条输电线路因过载而跳闸。随着供电电网努力弥补缺口，其他线路也相继停运。到1:03，一连串连锁故障使电力供应网陷入混乱，造成了 人类历史上规模最大的停电。据估计，超过6亿人因此暂时失去电力供应。
这次停电鲜明地提醒我们，面对赖以生存的众多复杂技术系统，一旦它们陷入混乱并崩溃，我们所有人都何其脆弱。然而，我们仍在迅速开发强大的新技术，却很少考虑这些技术本身的复杂性和相互关联性，可能会如何导致它们在未来瓦解。
我们技术实力的惊人魄力，体现在今年的这份名单中： 世界经济论坛评选的十大新兴技术 （WEF），今年已是该榜单发布的第四年。名单涵盖基因工程、利用快速DNA测序和数字化实现个性化医疗，以及人工智能、模仿人脑的神经形态计算机芯片和先进机器人等领域的进展。
这份名单旨在提高人们对领先新兴技术趋势的潜在益处和可能陷阱的认识。它有力地证明，我们控制和改造周围世界的能力正在迅速变化。同时，它也凸显了失控创新固有的危险，以及负责任地开发新兴技术的必要性。
世界经济论坛2015年十大技术
世界经济论坛/Andrew Maynard， CC BY-NC-SA
创新并非必然造福人类
以人工智能（AI）为例——它是世界经济论坛十大技术之一。埃隆·马斯克和斯蒂芬·霍金都曾警告过失控人工智能的风险。今年早些时候，他们签署了一封 公开信 ，指出开发稳健且有益的人工智能所面临的机遇与挑战。信中承认，如果缺乏远见和充分考量，那么人工智能在帮助我们消除疾病、更有效利用现有资源和改善生活质量的同时，大幅增强人类智能的承诺，可能会因意料之外的负面影响而受损。例如，可以想象恶意编程的自主武器，或不理解、也不尊重人类价值观的智能机器会带来怎样的危险。
世界经济论坛十大技术中的其他技术也带来了类似挑战。无人机引发了对安全和隐私的担忧。数字基因组使我们更接近《 千钧一发》式的歧视做法，即根据DNA区别对待人们。精确基因工程技术使以符合伦理的方式重新设计和创造生物变得复杂而棘手。3D打印等增材制造方法则带来了新的挑战：如何安全地使用新型材料和工艺。
这些技术本身并非天然安全可靠。然而，鉴于它们可能带来的益处，它们仍然至关重要。
我们需要技术来应对世界面临的问题
尽管技术可能带来负面影响，社会仍需要技术创新。我们生活在这样一个世界：有10亿人 仍然缺乏基本卫生设施。每年有600多万儿童 活不到五岁。全球超过14%的人口每 天的生活费不足1.25美元。超过25亿人面临感染 登革热和疟疾等疾病的风险。未来几年，要确保有充足的水、食物和能源，以维持可接受的生活水平， 将越来越具有挑战性 。
仅靠技术创新无法解决这些及其他挑战。但如果没有技术创新，其中许多问题将根本无法解决。
因此，我们不能承受踩下新兴技术刹车的代价。世界经济论坛十大技术中的每一项，都蕴含着改善人们生活的进步前景。从新型可回收塑料、先进制造工艺，到量身定制个人健康计划的可能性，这些技术只是创新冰山一角，却可能帮助消除疾病、缓解贫困和不平等，并应对我们这个时代一些最紧迫的挑战。
然而，仅有良好意愿并不能确保我们从这些技术突破中获益。
技术并非凭空出现
今年1月， 斯德哥尔摩韧性中心发布研究 指出，我们正迅速将地球推向一个有害的临界点。该中心此前确定了九个地球边界；在人类活动不越过这些边界的前提下，人类可以继续发展并繁荣。该中心警告说，跨越这些边界“可能引发突发或不可逆的环境变化”。研究人员表示，由于人类活动，九个边界中的四个（包括气候变化和生物圈完整性）现已被突破。
新兴技术正在加剧人类行为与环境之间的这种耦合。无论是通过减少环境影响的新方法（例如开发燃料电池技术或创新型可回收材料），还是通过可能彻底改变人类与环境互动方式的技术（例如人工智能和分布式制造的应用），地球脆弱性与新技术之间都存在密切而复杂的动态关系。
2015年世界经济论坛十大新兴技术之间的强弱相互依赖关系。
世界经济论坛/Andrew Maynard， CC BY-NC-SA
除此之外，新兴技术彼此之间也高度相互依赖。例如，人工智能的发展会影响神经形态技术，同时也受其影响；而神经形态技术又与无人机、下一代机器人乃至数字基因组相关。数字基因组进而与精确基因工程相连，而后我们又会迅速回到人工智能。
结果形成了一个高度互联的社会—技术—环境系统，其复杂性使它容易迅速陷入混乱，并可能灾难性崩溃。与其他复杂系统一样，它看起来会稳定且可预测——直到突然不再如此。这给我们带来了一个问题。
如何负责任地创新
2013年，Stilgoe、Owen和McNaughten 发表了一个“负责任创新”框架 ，有助于降低与强大新兴技术迅速兴起相关的至少部分脆弱性。作为日益丰富的负责任创新研究的一部分，他们提出了一系列建议，旨在使创新者、政策制定者及其他人能够通过“当下对科学和创新的集体守护”来关照未来。他们建议的核心是负责任创新的四个“维度”：
预见 新出现的问题
反思 现有方法在多大程度上确保了新技术得到负责任的开发，以及这些方法在哪些方面做得不足
纳入 关键利益相关方参与决策
回应 新出现的风险和机遇
各国政府和投资者开始日益认真地对待这类理念——例如，欧盟“地平线2020”研究与创新框架计划设有一个专门的 负责任研究与创新工作计划。
然而，如果我们要避免集体创造力将我们推下混乱崩溃的比喻性悬崖，还需要做得更多。
关键在于，我们必须确保从创新流程的源头开始就融入基于充分认知的责任意识——从研究人员和创新者开始，并贯穿投资者和消费者环节。与此相辅相成的是，社会必须激励并支持能够带来社会、经济和环境可持续进步的创新。
然而，我们面临的最大挑战，是不再孤立地看待新兴技术，而是转向理解并应对技术创新、社会与环境之间高度复杂、非线性且可能混乱的相互作用。
这让我们进入了未知领域。过去十年间，人们在理解单项技术的风险与益处方面取得了显著进展，例如纳米技术正在彻底改变我们从原子层面设计新材料的方式；合成生物学则打开了利用数字技术操纵遗传信息、再将其导入生物体的大门。然而，正如仅仅了解印度供电电网中的一条输电线路并无助于避免2012年的崩溃一样，逐一了解每种新兴技术的风险和益处，也无法帮助我们避免未来的灾难性故障。
要构建具有韧性的技术未来，我们需要新的理念、研究和工具，使我们能够实现技术创新的益处，同时与可能导致灾难性崩溃的风险保持安全距离。这是一项艰巨挑战，需要前所未有的跨学科投入、协作和创造力。但不负责任地创新所付出的代价，或许大到我们无法承受。
本文由 The Conversation合作发表。本文的发表并不意味着世界经济论坛认可其中的观点。
如需了解更多议程内容， 请订阅我们的每周简报。
作者：Andrew Maynard，密歇根大学风险科学中心主任。
图片：在柏林举行的IFA消费电子展上，一架搭载索尼Action Cam Mini的无人机。路透社/Fabrizio Bensch。
