我们如何打造一个更负责任的数字未来

A man programs an iPal Companion Robot by Nanjing Avatar Mind Robot Technology at the 2017 World Robot conference in Beijing, China August 22, 2017. REUTERS/Thomas Peter
Creating ethical machines is essential in order to prevent technology undermining basic human values.Image: REUTERS/Thomas Peter
本内容由人工智能自动翻译。

技术颠覆浪潮席卷全球,大数据分析、人工智能(AI)、机器人、物联网、区块链、3D打印和虚拟现实等创新正在改变社会和经济的运行方式。这些技术各自都有潜力改变既有产品、服务及其相关支持网络。汇聚在一起,它们将颠覆旧有商业模式和制度,开启经济、社会和政治史的新纪元。我们将如何应对?

重大的经济转型通常会带来深远变化。18世纪和19世纪的第一次工业革命期间,新的制造流程最终大幅改善了人类福祉。随着生产力提高,工资和生活水平也随之上升。然而,在这一进程初期,机械化带来了失业、童工和环境退化等负面后果。

数字革命带来的社会和政治影响可能更加剧烈。战争和革命可能爆发,人权和公民自由等价值观也可能遭到削弱。正如我和同事在一篇近期文章中在《科学美国人》指出的那样,只要信息上的自主决定权无法实现,计算机越了解我们,“我们的选择就越不可能是自由的,也越可能由他人预先决定”。

值得庆幸的是,个人自主权的丧失并非不可避免。我们能够打造一个更负责任的数字未来,但必须立即行动。要取得成功,需要开展公共讨论,推动数字启蒙与解放,并提升公众对技术风险的认知。换言之,我们面临的转型规模之大,任何一个国家或组织都无法独自应对。我们每个人都与之息息相关:这关乎我们的未来。

让技术进步单独主导这一变革,显然存在风险。2008年,《连线》编辑克里斯·安德森提出大数据最终将揭示一切真相,无需科学或理论。显然,事实并非如此。科学家掌握的数据越多,可供研究的模式也越多;只有依靠科学,才能判断哪些模式有意义,哪些会造成误导。人们原以为人工智能能够克服偏见等人类弱点,这一期待也未能实现。如今,许多人工智能系统会歧视某些人,甚至可能遭到操纵。

关于新“数字社会”的其他预测也同样不切实际。所谓智慧城市——即城市生活实现自动化的城市——迄今未能达到预期。这是因为城市不仅仅是庞大的供应链,也是开展实验、激发创意与创新、学习和互动的空间。

最后,尽管“平台经济”依托互联网、计算能力和数据,催生了全球一些最具价值的公司,却也让许多公民沦为被动消费者。高度互联带来的讽刺结果是,人们不仅对所购买的产品缺乏判断力,对所接收的信息也同样如此。毕竟,正是这种“注意力经济”催生了“假新闻”。

简而言之,数字乌托邦不会自行到来。我们需要以更合乎伦理的方式设计技术,将宪法、文化和道德规范及价值观融入人工系统和自主系统。在技术发展的各个方面,从智能设备到支持政府和市场运行的软件,都需要采用“符合伦理”的、“重视价值”的设计方法。1

例如,若要让民主继续成为可行的政治模式,民主政府所使用的信息系统就必须经过设计,以维护人权、尊严、自主决定权、多元主义、责任分工、透明度、公平与正义。

要实现这一民主数字未来,世界需要改变对技术的看法。我们需要构建开放、参与式的信息生态系统,让全球经济中的每个人都能贡献创意、才干和资源。在一个人人的行动都会影响他人的网络化世界中,我们必须学会超越自身视角,追求合作、共同创造、共同演进和集体智慧。

如果我们依此推进,第四次工业革命就能比第一次更具包容性;这正是我和同事们努力建设的未来。例如,在荷兰代尔夫特理工大学,我们正在打造具有社会责任的通信网络和城市治理系统;与此同时,国际研究人员网络FuturICT倡议正以跨学科方式推动技术开发。这两项研究工作的目标都是促进更加公平的数字未来。

我们有能力打造服务于我们、而非奴役我们的技术。但要建设这样的未来,需要形成一种新的数字时代精神,让社会、文化、环境和伦理价值成为设计过程的一部分。创新和革命往往令人不安、充满动荡,但在数字时代,它们也可以是负责任的。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。