大数据会挑战反歧视法吗?

大数据会挑战反歧视法吗?
本内容由人工智能自动翻译。

员工招聘和留任一直是雇主面临的挑战。如今,大数据在职场中的倡导者声称,他们能够改变这一局面。

我们正步入一个预测性选拔的新时代,并正在看到一些令人惊讶的结果。然而,这些新的决策形式及其产生的结果,可能会挑战反歧视法和隐私法的根基。

那么,出现了什么新情况?

在某个阶段,我们都曾申请过工作。我们填写申请表,零星地加上几处正面的修饰,然后提交。接下来,只能祈祷好运,希望能获得面试机会。

随后,雇主会对我们进行考察,看看我们是否合适。如果合适,我们就能得到这份工作。这是一种简单而历史悠久的做法。

我们大致知道自己为什么得到了这份工作。我们上了“对的”大学,取得了不错的平均绩点(GPA),也证明了自己值得信赖、能够胜任。

我们也知道,雇主不会根据我们的种族、性别或性取向来决定是否聘用我们。这是违法的。

那么,如果我们并非因为GPA而入选呢?或者不是因为我们上了那所“对的”大学呢?如果我们甚至不是根据求职申请而入选的呢?如果决定我们能否入选的因素不是申请本身,而是我们用来上传申请的 浏览器呢?

欢迎来到职场中 大数据可能令人困惑的新世界。在这个世界里,传统的员工选拔流程被彻底颠覆,算法驱动的数据决策成为常态。在这个世界里, 人们必须收集越来越多种类的信息,包括我们工作活动的元数据、社交媒体内容,以及任何可能有些许相关性(甚至毫无相关性)的其他信息。

这些都并非全新。迈克尔·刘易斯的《点球成金》展现了比利·比恩以数据为导向的探索所带来的价值,以及它对他当时执教的棒球队产生的巨大影响。

然而,如今,比恩以数据为导向的探索正被预测性探索取代,并产生了一些相当不同寻常的结果。来看几个例子。

一名富有创造力、但并非过分好奇,而且加入了一个至四个社交网络的候选人, 更有可能被施乐公司聘为客户服务代表。尤其是当他们住在办公室附近,并且有可靠的交通方式时。

从未编写过开源代码的软件程序员,如果拥有合适的在线档案,并且对日本漫画网站感兴趣,也会被招聘到开源编程岗位。

如今,推文或领英帖子中某种特定的 词语组合 甚至也可能成为识别优秀软件编程候选人的可靠指标。

那么,问题在哪里?

这些新的决策流程及其产生的结果,可能会给反歧视和信息隐私法律框架带来重大问题。这两类法律制定于20世纪60年代和70年代,可能并不适合应对职场大数据带来的挑战。

先谈反歧视法。反歧视法禁止基于 某些社会和身体特征进行歧视,例如种族、性别、性取向和残疾。如今,在我们看来,员工不应因这些特征而被录用或拒绝录用,这显而易见。我们本能地知道,基于这些特征作出决定是不对的。

职场大数据的问题在于,歧视往往不可能与数据分析所造成的不平等联系起来。员工选拔会依据一系列直觉上难以理解的特征作出决定:我们用来上传申请的浏览器、我们对日本漫画的喜好,甚至我们在推文中使用的词语。因此,大数据技术重新塑造了职场歧视这一概念本身。

要证明受保护特征与大数据歧视性做法之间存在联系,在证据层面很可能难以逾越。尽管被禁止的特征可能是预测流程中的一个因素,但在预测性决策流程中,要证明歧视因素确实存在,以及该因素如何被纳入考量,几乎是不可能的。这些流程会运用复杂的算法计算作出数百万项决定,而员工既无权查看,也 甚至不会被告知这些流程正在进行。

大数据也给信息隐私法带来了重大挑战。大数据的底层逻辑是收集一切并永久保存。要寻找那些难以凭直觉发现的关联,就必须如此。 任何信息在任何时候都可能相关。

因此,任何信息都有可能成为个人信息,因为任何信息都可能被用来识别个人。然而,信息隐私法从未以将所有信息都归类为个人信息并加以保护为设计初衷。

职场大数据可能会对现有的反歧视和信息隐私法律框架构成重大挑战。真正的危险在于,接受范围会在不知不觉中不断扩大,我们会不加质疑地接受相关性预测的真实性。这样一来,我们就有可能创造出一种新的歧视形式—— 信息结构性歧视,歧视和偏见的模式被嵌入信息基础设施之中。

届时,大数据的危险很可能超过其益处,并对我们所有人造成负面影响。我们可能会徒劳地寻找那个能让我们得到心仪工作的、难以凭直觉发现的特征,却永远无法控制它。

本文与 The Conversation

作者:马克·伯登(Mark Burdon)是昆士兰大学讲师。保罗·哈普(Paul Harpur)是昆士兰大学法学院讲师。

图片:2013年2月28日,华沙,一名男子在电脑键盘上打字。路透社/卡茨佩尔·彭佩尔(Kacper Pempel)。

分享:

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。