数字化治理面临的3项关键挑战

• 我们必须挑战那些破坏我们社会和民主的技术不负责任的使用方式。
  

• 随着我们迈入新的数字工业时代,我们有机会扭转方向,迎来一个更加透明、更加民主的技术时代
  

• 全球科技治理不能仅靠政治行为体实现——它还需要科技界的基层运动。

2021年1月6日美国国会大厦遭到暴徒袭击,这是一个转折点——不仅在政治史上如此,在科技治理领域也是如此。

早在这次袭击发生之前,社交媒体平台及其算法就在放大阴谋论、虚假信息、仇恨言论和蛊惑民心的言论方面发挥了核心作用。然而,华盛顿特区发生的事件清楚地表明,我们引导、利用和监管现代技术的方式,深刻影响着我们的个人生活和经济生活。科技治理是关乎我们社会和民主存亡的根本问题。它关系到国家和全球安全,也关系到社会和平与进步。

我们尤其必须做好三件事:审视那些为了吸引互动和获取收入而放大极端观点的商业模式和算法;确保数字平台保持开放,并在整个经济中促进创新;以及确定我们愿意在多大程度上将控制权让渡给自主系统和人工智能(AI)——并确保最终由人类而非机器承担责任,且人类能够被追责。

1. 审视那些损害人类价值观、加剧社会对立的商业模式

在谈论现代技术和数字化时,有必要区分两大浪潮。第一波大浪潮始于20世纪90年代。它为我们带来了智能手机和平板电脑、始终在线的互联网、便捷的网络购物和娱乐。从未有过如此多的消费者如此轻松地获取如此海量的信息。从未有过如此多的人能够借助这些技术所提供的方式,把握全球机遇并表达自己的声音。

但是,第一波数字化的显著特征往往都受到一种存在问题的商业模式驱动。以电子邮件、云存储或即时通讯为例,仅举三个例子。由于这些数字服务不涉及直接的金钱费用,消费者产生了这些服务是“免费”的印象。但事实并非如此。用户并非用金钱付费,而是用另一种宝贵的资源付费:他们的个人数据。而且在许多情况下,用户并未意识到自己正在这样做。在线下世界,如果邮递员在把信件投入我们的信箱之前打开并阅读,我们会感到愤怒。而在线上世界,我们似乎已经忘记了这些基本的人类价值观。

在社交媒体平台上,“免费”服务的问题变得更加严重:决定我们在社交媒体上看到什么内容的算法,被设计为促进互动——推动“点赞”、“分享”、“评论”等行为。为什么?因为互动意味着流量,流量意味着数据,数据意味着收入,而且——通常——意味着丰厚的利润。

事实证明,促进互动的最有效方式之一,就是放大极端声音,例如政治光谱边缘的那些声音。越来越多的证据表明,耸人听闻、言辞激烈且虚假的说法在这些网络上传播得尤其迅速,原因就在于算法正是为此而设计的。

诚然,在社交媒体兴起之前就已经存在极端声音。但问题并不在于这些声音的存在。问题在于,社交媒体算法正在大规模地推广它们,使日益极端的立场在现代公共话语中占据中心位置。

“免费”服务的最初设计失误已对社会造成了极其严重的后果。纠正这一失误或许是当今科技治理面临的首要问题。我们需要挑战那些看似“免费”的商业模式,并确保算法围绕隐私等基本人类价值观进行设计。

回到前面的比喻:我之所以能够信任邮递员不会打开我的信件,是因为我为邮票付了费。他的生计并不依赖于获取和出售我的个人信息。我们有责任从这一简单的道理中得出正确的结论。

2. 打造开放平台

第二波数字化和技术创新浪潮始于2010年代初,并在新冠疫情期间大幅加速。这一波浪潮关乎工业世界的数字化——涉及数字化制造、数据驱动的医疗保健、智能建筑、智慧城市等等。其风险比第一波更高,因为工业数字化影响的正是支撑现代生活的基础设施本身。

这一次,以个人数据换取“免费”服务的问题已不再是核心所在。毕竟,工业系统不会那么轻易地交出自己的数据。然而,还存在其他关键挑战——平台治理便是其中之一。

数字平台是人类迄今打造出的最强大的工具之一,它们擅长降低新技术的成本。它们让数字化的益处惠及大众,并覆盖全球范围。

迄今为止,科技治理主要有两种方式:一种是放任自流的方式,允许私营企业将数字平台做到超大规模;另一种是政府控制或严密监管平台。具有讽刺意味的是,两者都导致了相似的结果:封闭的超级平台仅按其自身条件授予数据访问权,并集中了权力与财富。

一种不同的平台路径——以开放性、互操作性、去中心化和数据共享为基础——可能带来更好的结果和更多的创新。它可以促进去中心化的创新网络,使其经济效益在社会中更加均衡地扩散。

欧洲拥有深厚的工业传统和数字化制造方面的专业知识,有望率先探索这一新路径。Gaia X ,由德国和法国发起,并获得越来越多欧洲伙伴的支持,是朝这一方向迈出的一项举措。

Gaia X为网络化平台之间的联邦式数据交换提供了蓝图。它制定了严格的数据保护和数据安全标准,并采用现有标准实现数据可携性。其主要目标是以“数据共享模式”取代数字平台的“守门人模式”——在这一模式下,所有利益相关方都将拥有平等的机会来获取和交换数据,并在此基础上进行创新。这种平台间的联邦式数据交换,可以在企业之间营造更加公平的竞争环境,并促进初创企业以及中小企业的创新。

3. 提升我们使用人工智能的透明度

第二波数字化浪潮中的另一项关键挑战,是利用自主系统造福人类,同时确保人类对关键系统进行监督。

如今,人工智能已不仅仅为智能手机上的数字助手提供动力。相反,“电子大脑”正被整合进我们社会和经济生活的关键领域,例如医疗保健、交通出行、建筑和工厂。人工智能今天已经能够减少公共交通系统的延误并提高其可用性。它可以帮助我们优化建筑和城市的能源使用并减少能耗。它还能够分析人体医学扫描影像,协助放射科医生做出正确诊断。

正如尤瓦尔·诺亚·赫拉利(Yuval Noah Harari)所论证的,人工智能实际上可能取代人类,成为“地球上最聪明的算法”。这是一个大胆的论断,但我们不应对此视而不见。相反,我们需要清楚地认识到,我们愿意在哪些领域使用人工智能,以及愿意放弃多少控制权。

面向消费者的智能算法已经存在一段时间了。例如,它们会在流媒体平台上推荐电影,或在我们网购时推荐相关商品。到目前为止,我们对这些算法的审视还不够——尽管它们同样在影响着我们的生活和社会。

然而,随着人工智能正成为我们经济和日常生活的根基——用于评估抵押贷款申请、引导自动驾驶汽车或推荐医疗决策——我们必须比以往更加密切地关注。我们应当准确地了解人工智能在这些场景中何时、何地以及如何被使用。结果的透明度至关重要,人类能够进行干预并承担总体责任,同样不可或缺。

向基层发出的呼吁

科技治理是应对第一波和第二波数字化所带来的主要挑战与后果的有力工具。然而,鉴于创新的速度极为迅猛,我们并不总能以足够快的速度实施“自上而下”的治理。我们还需要“自下而上”的治理——以健全的人类道德指南针为基础。

Tech for Life运动于2018年发起,其核心正是这种自下而上的路径。可以说,它是科技界的一份荣誉准则。它关乎将价值观付诸实践,无论你身处组织层级的哪个位置——这些价值观包括目标感、公正、多元化、社会责任、开放和信任。其愿景是鼓励所有利益相关方确保技术以对社会负责的方式使用——身体力行,言行一致,无论我们在哪里工作。

这种文化变革,与明智的科技治理相结合,可以使现代技术的兴起真正造福社会、民主和全人类。我们有机会将2021年1月6日铭记为事情开始向好转变的时刻。让我们抓住这个机遇。