AI工具正被用于减少招聘中的偏见。
这些工具包括用于优化职位描述的机器学习工具，以及基于AI的心理评估工具，用于评估公平性等特质。
但AI本身存在固有偏见，这取决于用于训练算法的数据。
数十家软件公司应运而生，向企业销售AI招聘工具，并承诺这些工具能够将偏见从客户的招聘流程中剔除。在宣传材料和新闻稿中，它们宣称人类招聘人员“无可救药地存在偏见”，而机器则“客观公正”，因此企业和求职者都将从AI驱动的招聘中受益。无可救药地存在偏见，而机器则客观公正，因此企业和求职者都将从AI驱动的招聘中受益。
当然，事情并没有那么简单。AI算法并非天生客观，而招聘软件可能引入新的偏见和歧视层面，排斥合格的求职者，并使企业面临负面舆论报道。
但如果企业以审慎的方式应用AI，并对AI供应商的商业宣传保持适度的怀疑态度，那么仍有办法利用算法减少招聘中的偏见。
哪些公司销售AI招聘工具？
招聘流程的每个环节都有对应的AI工具。Textio利用机器学习帮助招聘经理优化职位描述。Facebook、LinkedIn和ZipRecruiter基于其算法的推荐，将招聘信息投放给可能的求职者。
收到申请后，Ideal、Ideal、CVViZ、Skillate和Sniper AI等AI供应商销售简历筛选工具，用于筛查并遴选有潜力的候选人。在将候选人纳入面试后，HireVue、Modern Hire和Harqen承诺其算法可以分析这些面试对话，预测哪些求职者在工作中表现最佳。
还有一些供应商提供基于AI的心理评估，用于评估稳定性、慷慨度和公平性等特质。Humantic通过抓取求职者申请材料和在线个人资料中的文本，对其进行分析。Pymetrics声称可以通过一系列简单游戏实现同样的目的。
AI招聘工具如何运作？
对于所有用于招聘的AI应用而言，关键问题在于其训练数据是什么。机器学习算法的好坏，仅取决于输入信息的质量。
大多数AI招聘工具从现有员工中收集训练数据。例如，要训练一个简历筛选工具，企业会收集现有员工的简历，并将其与销售业绩或年度考核等绩效数据进行比对。这些数据集会教会算法如何识别与企业顶尖员工简历最为相似的简历。
当然，这种方法往往会筛选出与现有员工队伍高度相似的候选人，实际上重现了许多企业试图克服的偏见。
“AI本身存在固有偏见，因为根本不存在没有偏见的数据。”波士顿咨询公司北美AI业务联席负责人Shervin Khodabandeh表示。他解释说，招聘领域的挑战更为突出，因为可用数据往往非常有限：企业录用的人数有限，而要确定候选人能否成为顶尖员工，往往需要数年时间。
AI供应商采用变通方法来克服其训练数据中的偏见。据正在康奈尔大学攻读博士学位、曾研究招聘算法的Manish Raghavan介绍，许多供应商将其算法设计为符合“四分之五规则”，这是美国的一项法律原则，规定任何一个人口群体的求职者，被录用的比例必须至少达到其他群体的80%。因此，为避免企业承担法律责任，招聘AI可能被编程为，例如，推荐数量相等的男性和女性候选人。
但Raghavan表示，这并不意味着该算法在不同人口群体之间的表现会同样出色。如果训练数据主要来自男性员工，AI可能会学会将成功与某些特质联系起来，例如简历中写有高中橄榄球经历，或在推荐信中被称为“摇滚明星”（这一用语往往用于描述男性）。往往用于描述男性）。
“如果你有许多此类特征，最终得到的工具可能非常擅长预测表现最佳的男性，却难以准确识别表现最佳的女性，”Raghavan解释道。如果企业随后面试了10名最合格的男性，以及从申请人池中随机抽取的10名女性，其招聘做法表面上看似没有偏见，但这份工作仍然更有可能被录用的是男性。
AI驱动的招聘工具曾如何适得其反？
亚马逊曾开发了一款AI简历筛选工具，该工具于2018年被公开曝光存在针对女性的偏见，此事广为人知。该工具本意是打造招聘AI的“圣杯”，但它会对包含“女性”一词的简历（如女子体育队或俱乐部）进行扣分，并且习惯推荐缺乏相关技能或经验的候选人。被公开曝光。该工具本意是打造招聘AI的“圣杯”，但它会对包含“女性”一词的简历（如女子体育队或俱乐部）进行扣分，并且习惯推荐缺乏相关技能或经验的候选人。
HireVue因其面试分析AI受到严格审查。该AI会分析候选人的面部表情、用词和语调。纽约大学AI Now研究所的伦理监督机构在《华盛顿邮报》的一篇报道中，将其称为“伪科学”，并称其为“歧视许可证”。该报道点名了使用该软件的企业，包括希尔顿和联合利华。在舆论反弹之际，美国联邦贸易委员会《华盛顿邮报》的一篇报道点名了使用该软件的企业，包括希尔顿和联合利华。在舆论反弹之际，美国联邦贸易委员会收到了一项正式投诉，针对HireVue提出，同时伊利诺伊州通过了一项法律，要求企业披露其使用类似AI工具的情况。
尽管这些事件引发了负面媒体报道，麦肯锡科技顾问Michael Chui表示，对于考虑在招聘流程中引入AI的企业而言，负面新闻不应是其主要顾虑。他说：“最大的风险并非声誉风险。”“而是您无法招募到最合格的候选人。”
我如何避免重蹈覆辙？
据BCG的Khodabandeh表示，最重要的教训是，企业绝不应盲目听从AI的建议，人工招聘经理应保留决策控制权。他说：“没有人应该信任那种告诉你‘这就是你应该录用的人’的算法。”
Khodabandeh建议，不妨反其道而行之。企业不应让AI筛选出最佳候选人，再由人工招聘经理走过场式地批准其决定，而应利用AI审查自身的招聘做法。理想的招聘AI应当深入挖掘海量招聘数据，其目的不是预测下一位最佳人选，而是指出过去哪些人往往取得了成功。
“优秀的AI算法会做的一件事，就是告诉你存在哪些偏见。你会看着它，然后意识到，我在不知不觉中，已经不公正、不负责任或不道德地青睐某些特质。”Khodabandeh说，“此时，就需要人工介入，主动消除这些偏见，并决定在下一轮招聘中应关注哪些特质。”
企业还应精明地审核其所使用的任何算法。康奈尔大学研究人员Raghavan表示，大多数AI供应商只会向客户透露其算法的内部运作方式。“即使提供了证据，许多客户也未必有能力评估供应商所宣称的内容，”他说。
拥有内部数据科学家的潜在买家可以深入了解算法内部运作，并做一些初步检验。对于没有此类人员的企业，Raghavan的研究提出了几点宽泛的警示：首先，您未必总能信任，甚至理解，AI系统所发现的员工工作表现与其面部、声音或行为之间的相关性。
其次，对于声称能提供求职者心理洞察的算法，统计门槛相当低。它们得出的相关性，平均而言只需比随机结果稍好一些即可。这些相关性是否适用于任何特定个人，基本上是碰运气。有时，招聘人员所需要的最高科技工具，其实就是他们的直觉。
