从工会到非政府组织:科技治理需要我们每个人发声

undefined
本内容由人工智能自动翻译。

第四次工业革命——一场以数字、物理和生物技术融合为特征的全球性变革——才刚刚开始。

然而,随着第四次工业革命不断发展,它将对社会产生前所未有的颠覆性影响,彻底改变人们的沟通方式、组织创造价值的方式,以及人类认识自我的方式。新兴技术以数字革命为基础,通过数字互操作性实现指数级扩展,以智能产品和服务的形式呈现于物理世界,并广泛融入社会。

与此前的革命一样,第四次工业革命可能巩固权力不对称、加剧不平等,并推动发展未能体现以人为本价值观的技术。

随着新技术以越来越快的速度推出,法律和社会保障体系正处于难以适应的境地。人工智能、无人机等新兴技术可以为人权、基本公共服务交付以及公民社会的其他职能带来额外价值,但这些技术也已被用于侵害公民自由和人权——政府和私营部门常借此限制自身活动的影响以及其利益相关者的声音。

倡导团体、工会、儿童权利组织及其他机构日益面临有针对性的数字威胁和网络攻击,威胁到与公民社会组织合作的弱势群体的安全。

人工智能、先进机器人、无人机及其他技术可能被用于压制性目的,以加强控制并限制人权。

未定义

政府部署监控软件、关闭互联网以及征收“博客税”,针对一国内的特定群体,且往往意在扰乱公民表达和自由。人工智能、先进机器人、无人机及其他技术也可能被用于类似的压制性目的,以加强控制并限制人权。

技术的直接和间接影响,也使公民社会组织——包括倡导团体、人道主义组织、发展组织、工会等——在应对新兴技术时陷入艰难且往往同时并存的处境:在新技术带来的威胁尚处萌芽阶段、难以理解或缺乏法律保护时,倡导权利与自由;在资源和运营空间有限的情况下部署新技术以提高效率;在政府借助技术攻击公民空间时设法自我保护;以及由于难以获得变革所需能力(人才、技术、资金等)而只能有限参与。

新技术,新挑战

在民主国家,蓬勃发展的公民社会部门的一项关键职能,是推动社会中的问责、公平、信任和透明度,尤其是在公共部门和私营部门出现缺漏和失灵时。

民主社会中的政府和企业有责任考虑并减轻其活动可能造成的危害和影响,而公民社会和公民则试图回答有关政府和企业决策的一系列问题:我们能确定这些决策准确吗?我们如何理解这些决策的影响?我们能相信这些决策是公平且没有偏见的吗?

国家的合法性取决于其对公民负责,而私营部门并不以同样方式对消费者负责。然而,在市场动态、企业利益和公众形象顾虑的推动下,越来越多行业的企业不得不采取行动以满足客户需求并造福整个社会(通过企业社会责任)。尽管企业大多顺应了这些趋势,但公民利益和监督与股东利益发生冲突时,往往会出现明显的缺口。

企业、政府和公民社会团体对数字技术和新兴技术的使用带来了新的挑战,也加深了问责、公平、信任和透明度方面的既有挑战:

- 问责:谁应对数字技术和新兴技术造成的不良影响负责并予以补救?谁又负责塑造这些技术的影响力和影响?以下例子尤为突出:通过算法问责来阻止虚假新闻传播;数据共享项目和地图引发的个人及群体隐私侵害;与加密货币慈善相关的高度波动;以及虚拟现实(VR)叙事中的偏见和失实呈现。

- 公平:社会如何确保个人和群体受到同等对待?面临的挑战包括:缺乏包容性或参与式模式;审查算法系统造成的差异化影响;以及选择偏差。

- 信任:数字技术和新兴技术的使用如何增进而非削弱社会信任?面临的挑战包括:数字数据告知与同意机制缺乏实效;对话和沟通有限;以及权力不平衡。

- 透明度:数字技术和新兴技术的使用如何促进透明度?面临的挑战包括:缺乏可解释的框架;开放数据带来的有害透明度(导致群体隐私受到侵害);以及信息操纵和不透明(例如,经过算法筛选的系统推荐现有信息的另类版本或极端版本)。

携手扭转局势

对数据保护、数字虚假信息和技术伦理使用的担忧,凸显了扩大参与和合作的必要性,以共同治理这些强大的新兴技术,决定它们如何塑造社会。

公民社会组织以及更广泛的社会创新利益相关者生态系统(商界人士、学者、慈善家、社会企业家等)需要共同努力,改变当前局势的发展方向。

学术界长期以来一直在持续开展多场讨论,探讨数据、算法和技术使用的责任与伦理问题。过去十年间,出现了多个联盟和团体(例如围绕负责任数据、负责任/合乎伦理的人工智能、负责任的无人机等),参与者包括从业者、数据科学家、计算机科学家和部分公民社会成员。此外,多方利益相关者会议也提出了多套原则和建议,强调可解释性、监督控制,以及识别与数字创新、人工智能和其他新兴技术相关的共同责任问题。

公民社会组织主要在各自的组织和网络内开展工作,从中汲取有关创新和技术采用的见解。

然而,我们需要携手加快行动:在公民社会及社会创新领域的其他利益相关者之间分享见解和资源,以开展前瞻研判、制定战略并共同承担责任。各类非营利组织和公民社会组织普遍拥有共同的经验和挑战,因此需要更广泛的平台来讨论相关战略,避免炒作、防范数字伤害,并确保实现一种不同且更加公平的工业革命。

共同的经验和挑战包括但不限于:

协调方面的挑战:我们对数据和技术的使用如何契合本组织、受益人和用户的需求?我们如何识别并界定这些需求?

能力方面的挑战: 我们当前的组织能力中,哪些方面有助于或推动负责任地使用数据和技术?还缺少什么?需要哪些内部指导?我们当前的做法是否存在取舍(例如人才招募和项目范围)?

责任方面的挑战:我们的项目和合作关系如何体现本组织防范数字及技术危害的责任?在共同应对责任挑战、塑造数据和技术对社会的影响方面,本组织发挥什么作用?

生态系统方面的挑战: 我们如何与数字技术和新兴技术更广泛生态系统中的其他利益相关者开展互动?

世界经济论坛近期启动了“为第四次工业革命做好公民社会准备”项目。该为期三年的倡议与论坛公民社会社群合作,旨在加快知识传播、推动共享资源,促进公民社会组织内部的创新,并推动公民社会部门切实参与数字技术和新兴技术的治理。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。