卢德派是对的吗?为什么建立数字信任是技术创新的关键

Why building digital trust and prioritizing individual agency is key to creating better technologies.
Why building digital trust and prioritizing individual agency is key to creating better technologies.Image: Getty Images/iStockphoto
本内容由人工智能自动翻译。
  • 19世纪的卢德运动表明,即使是熟练的技术使用者,当这些工具被用来剥夺其权利时,也会提出抗议。

  • 两百年后,创新仍然常常未能优先考虑那些使用新技术、并受其影响最大的人的关切与担忧。

  • 世界经济论坛的《数字信任:支持个人能动性》报告阐述了透明度、隐私保护和可申诉性为何是建立数字信任的关键维度。

卢德派的看法是对的。如今,“卢德主义者”一词是用来贬称那些拒绝使用或不理解新技术之人的贬义词,但这场19世纪的抗议运动很可能源于那些对新技术的影响了如指掌的人。

自称为内德·卢德(一位类似罗宾汉的神话人物)追随者的人并非憎恨技术。卢德运动中的许多人是熟练的织工,也非常善于运用现有的最佳技术。

相反,他们诉诸砸毁机器,作为对这些工具被用于“以欺诈和欺骗的方式”的最后手段抗议,以侵蚀他们一生为之奉献的行业质量,并剥夺他们作为工人所依赖的权利。

卢德派抗议的并非技术本身,而是有权势者围绕技术所作的决定,这些决定威胁要夺走他们的职业、侵犯他们的权利,并使他们陷入贫困。

他们抗议的是,技术被以(用我们今天的话说)缺乏目标透明度的方式部署,违背了他们的价值观,并且在他们将遭受的切实伤害面前,没有给予他们任何申诉渠道。

克服技术领域的“信任危机”

两百年后,这些相同的问题使各国政府和企业——尤其是科技行业——对信任危机感到焦虑。

在许多情况下,创新者认为,只要让技术更加有效或扩大用户群,就能解决信任问题。但是,虽然可靠性无疑是信任的一部分,决定某项技术能否赢得信任的,是决策的方式以及设计过程中考虑了哪些因素。

早期工业革命的经验给我们一个重要的启示:虽然人们的关注常常聚焦于新技术的能力,但往往被忽视的,是优先考虑使用新技术并受其影响之人的需求与关切所具有的根本重要性。

在人工智能(AI)及其他领域的快速发展带来巨大前景的情况下,这一点尤为重要,因为它们的采用与成功取决于能否建立信任并确保用户安全。

在世界经济论坛达沃斯年会上,“动荡世界中的技术”分论坛的与会嘉宾阐述了信任危机并非在于个人不懂得如何使用技术,而在于他们不相信技术正在为其利益服务,或支持其期望与价值观。

与卢德派的情况一样,问题不在于人们不信任现有的工具,而在于人们不信任在开发和部署技术过程中所作的决定。

这从根本上是一个能动性的问题:新技术会支持我和我作为用户的需求吗?还是说,这些我在工作或社会生活中日益必须使用的技术,实际上是在为他人服务?

对大多数人而言,技术开发过程中做出了哪些决定并不清楚。因此,他们不相信自己的隐私或其他价值观会得到保护,也不认为一旦受到新技术的伤害会有人保护他们。

数字信任与支持个人能动性

世界经济论坛的数字信任倡议旨在回答这一关于信任的根本问题,并制定了数字信任框架,以确保领导者和创新者优先重视安全、保障、可靠性、有效的治理实践,以及新兴技术的包容、负责任和合乎伦理的使用。

论坛的研究最终发现,信任取决于对个人和社会价值观的尊重,其中包括围绕个人能动性与选择权的价值观。

这种对价值观与创新之间相互作用的理解,要求转向优先考虑透明度、保障隐私,并在发生伤害时建立申诉机制。

数字信任框架Image: 世界经济论坛的《数字信任:支持个人能动性》报告

数字信任倡议的最新报告《数字信任:支持个人能动性》从组织、监管机构和个人的视角,深入考察了透明度、隐私保护和可申诉性等数字信任维度,所有这些均以支持个人能动性为核心视角。

鼓励企业和政府领导者在技术的整个生命周期中优先考虑个人的视角,并采取透明化设计的方法,尤其是在透明度和隐私方面。

打造更好的技术,以人为本

归根结底,为人类打造更好的技术是一项有意的设计选择,要求将这些基本要素融入开发和部署流程的核心,而不是将其视为事后的补充。

卢德派的诉求并未得到回应,相反,他们的活动被定为犯罪,运动也遭到暴力镇压。尽管这一术语本身在见多识广的人中已变成笑柄,但卢德派所表达的对能动性与尊重的诉求,至今仍在技术创新的历史中回响。

在沉浸式技术、人工智能、合成生物学等新技术将我们带到剧烈社会和产业变革的边缘之际,我们有机会,也有义务这一次做得更好,并通过将人的能动性和对我们权利的尊重置于新兴技术设计的核心,认真对待这些诉求。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。