数据公平是一项共同责任,需要集体行动,以建立能够为所有人带来公平、公正结果的数据系统。
鉴于数据驱动系统在当今数字社会中的作用不断扩大,考量数据使用对人的影响至关重要。
全球未来理事会“数据公平的未来”已制定了一套框架,以鼓励反思、指导研究,并推动采取纠正措施,促进负责任的数据实践。
数据公平是一项共同责任,需要集体行动,以建立能够为所有人带来公平、公正结果的数据实践和系统。
鉴于数据驱动系统在当今数字社会中的作用不断扩大,持续考量数据的人文影响至关重要。随着机器学习和生成式人工智能(AI)等技术的进一步发展,如果不从基础阶段着手解决,数据公平问题可能会加剧。
通过评估数据生命周期各阶段的数据公平状况,可以改进实践,为所有个人、群体和社区促成公平、公正且有益的结果。
从界定数据公平入手的重要性
我们生活在一个数字社会中,越来越多的决策依赖于基于算法自动化运行、以数据为基础的系统。但我们这个数据驱动的世界在设计之初并未以促成公平结果为导向,原因很简单:设计时并未将公平纳入考量。相反,它是在我们社会的各种多样性、历史不平等、偏见和差异之中形成的。
因此,在这一人工智能驱动的数字时代,数据公平至关重要,它有助于认识到这些系统对个人、社会以及其行使人权的能力所产生的实质影响。通过将数据公平纳入所有设计、部署和使用工作,我们能够确保多元社区的声音得到体现,从而随着数字格局的持续演变,在社会中建立对技术应用的信任。
但首要且最重要的是,必须有一个统一的数据公平定义,以促进协调与合作,将这一概念付诸实践,并有助于衡量该领域的切实进展。
因此,世界经济论坛的全球未来理事会“数据公平的未来”,一个多利益相关方专家小组,经过多轮研究和磋商,制定了一个定义,涵盖了该概念的全面性质,以及它如何影响数据生命周期中的所有行业、产业和地区。
据理事会介绍,“数据公平是对公平数据实践所承担的共同责任,这些实践尊重并促进人权、机会和尊严。数据公平是一项基本责任,需要采取战略性、参与性、包容性和前瞻性的集体及协调行动,以建立一个基于数据的系统能够为所有个人、群体和社区促成公平、公正且有益结果的世界。它认识到,数据实践——包括收集、整理、处理、留存、分析、管理,以及对所得见解的负责任应用——会对人权以及由此获得社会、经济、自然和文化资源与机会的途径产生重大影响。”
将数据公平付诸实践:以行动为导向的框架
为了从理论定义转向切实可行的影响,数据公平全球未来理事会制定了一套框架,以鼓励反思、指导研究,并促使在不同情境下采取纠正措施,推动负责任的数据实践,同时确保与全球法规保持一致并符合其要求。
该框架旨在成为推动数据实践转型的关键基础,以全面践行包容性与公平性。它旨在作为一种探究框架使用,为组织内部的对话与评估提供指引,助力组织在更广泛地使用人工智能时展开讨论与审视。
该框架借鉴了现有的数据原则,例如FAIR、CARE和TRUST,并植根于毛利原住民的数据主权,具体来说是Te Mana o te Raraunga 模型,该模型描述了传统知识守护者在决定与他人分享知识时所遵循的内在逻辑。
该框架对公平的明确关注,以及其源自毛利原住民数据模型的灵感,使其在现有数据标准中独树一帜。
该框架由三个类别组成:数据、人员与目的,以及10项相应特征,并附有关键议题和探究性问题。
数据类别——包括数据的可及性和敏感性等特征——考察数据分析中所使用数据的各种特征,包括机器学习和生成式人工智能。从数据项目启动之初就考量这些特征,可以改善结果,并确保尽早处理偏见问题。
目的类别——包括价值、信任、原创性和应用等特征——认识到每一次数据分析都必须始于对数据用途的理解。若不了解目的,就无法形成公平、平等的分析,且结果可能不够有影响力和/或可能造成意外伤害。
最后,人员类别——包括关系、专业知识、问责和责任——要求透彻理解被收集和使用的是谁的数据,以确保在整个数据生命周期中,他们的数据权利得到体现和保护,并确保数据有益于个人和社区。
除探究性问题外,该框架还包括建议采取的行动,具体取决于特定情境和相关利益相关方。该框架的意图在于揭示问题,并确定能够应对这些问题的可能行动,以共同打造一个更加公平的世界。
实际应用案例可以展示数据公平框架的实用性。例如,在气候数据收集和监测中考虑数据公平,可以获得更可靠的气候数据,从而支持更有效的减缓战略。
目前,气候数据收集方面存在显著空白,尤其是在全球南方的农村和偏远地区。遵循数据公平实践,例如投资于数据收集和(社区)能力建设,可以提高气候数据的精细度,进而促进和激励更有效的气候监测。
倡导并整合数据公平原则
数据公平超越了技术流程,其根本在于数据对人和社区的影响;其基础是对公平数据实践所承担的共同责任,这些实践尊重并促进人权、机会和尊严。因此,随着技术能力的进步,对其社会影响的认识也必须同步提升。
数据公平全球未来理事会致力于塑造一个前沿技术惠及所有人的未来,并确保公平性与包容性推动技术进步及其在现实世界中的应用。
论坛如何帮助领导者将前沿技术与现实挑战相连接
前沿技术与创新中心汇聚科学家、政策制定者和商业领袖,以理解新兴技术及其现实影响。
通过促进协作与试验,该中心帮助合作伙伴将研究成果转化为实际应用,以应对共同的全球挑战。
为追求更加公平的世界,提议的数据公平定义与框架并非仅仅作为一套指导原则,而是旨在成为动态工具,敦促数据与技术领域各行业的所有利益相关方,在各自工作的每个阶段优先考虑并落实公平。
通过实现这一目标,旨在确保数字化转型时代不仅以技术突破为特征,也以重大的社会进步为特征。




