人工智能准备好迎接“大规模再招聘”了吗?

A taxi 'for hire' sign
Businesses are turning to AI technology to help them recruit in the wake of COVID. But algorithms can multiply inequalitiesImage: Clem Onojeghuo for Unsplash
本内容由人工智能自动翻译。
  • 急需快速大量招聘的企业,正转向简历筛选程序等人工智能技术。

  • 若使用不当,算法可能会放大基于性别、年龄和种族的不平等现象,而这些不平等已因疫情而加剧。

  • 使用人工智能做出招聘决策的雇主,必须准确了解自己购买的是什么,以及它可能如何影响其招聘决策。

在经历了失业率达到大萧条以来前所未有水平的一年后,“大规模再招聘”已经到来,人工智能很可能在其中发挥重要作用。雇主,尤其是那些需要快速大量招聘的雇主,正转向人工智能驱动的技术,例如简历筛选程序、自动化面试和移动招聘应用程序,以重建其劳动力队伍。对于因新冠疫情而失业的数百万员工而言,这些技术可能意味着重返职场的快速通道。而对于因疫情而被迫关门歇业的企业而言,这些技术则是通往盈利的高效路径。

然而,在正常经济条件下,确保招聘技术的设计和部署无偏见已属挑战,而新冠经济远非正常状态。若雇主不谨慎使用这些技术,疫情对劳动力人口结构造成的扭曲可能会长期存在。

众多研究,包括世界经济论坛《2020年未来就业报告》,均记录了疫情如何加剧全球职场的不平等。例如,在疫情初期,全球各地女性的失业率高于男性;而年轻人的失业率则一直高于年长员工。在美国,劳工部的研究表明,有色人种受疫情的影响尤为严重。事实上,非裔美国人和拉丁裔的失业率一直比白人高出几个百分点,即便美国人正以创纪录的人数重返职场,这一趋势依然存在。

非裔美国人和拉丁裔的失业率一直比白人高出几个百分点。Image: 国会研究服务局

人工智能虽有可能消除招聘中的偏见,但若使用不当,它也可能成倍放大不平等。原因在于人工智能的运作方式:算法通过分析有限数据集中的信息,对求职者做出预测。算法预测的可靠性,取决于其所依赖的数据集。若算法的训练数据来自雇主现有员工,它可能只会复制现状。如果现有员工主要由某一种族、性别或年龄群体构成,这便会引发问题,因为招聘算法可能会自动筛除不具备相同特征的求职者。

诸多备受关注的算法招聘失误案例表明,人工智能既可能反映统计偏差,也可能将其放大。例如,几年前亚马逊曾测试一款简历筛选程序,其训练数据包括该公司现有员工的简历,以及过去十年提交给公司的简历。该程序借助机器学习识别数据集中的规律,再依据这些规律对新求职者的简历进行评分。然而,由于数据集中大多数简历属于男性,该程序开始自动降低那些含有暗示求职者为女性的词语组合的简历评分。

简而言之,有偏差的输入必然产生有偏差的输出。当雇主试图组建后疫情时代的劳动力队伍时,这一问题可能尤为突出。在美国,新冠疫情期间的劳动力中,非裔美国人、拉丁裔和亚裔的人数均有所减少。因此,如果招聘程序对待种族的方式与我们例子中对待性别的方式相同,少数族裔可能会被排除在其本可胜任的就业机会之外。这进而可能使美国雇主依据我所在机构——平等就业机会委员会所执行的法律承担法律责任。

根据美国法律,雇主无需存在故意歧视,即可构成被禁止的招聘行为。一项表面中立的招聘政策,如果对特定群体产生差别性影响,则可能违反联邦法律。因此,使用人工智能做出招聘决策的雇主必须理解该技术的运作方式,这一点至关重要。雇主应向供应商询问训练数据的稳健性、偏见的缓解措施,以及产生差别性影响的可能性。简言之,他们应当准确了解自己购买的是什么,以及它究竟如何运作。“设置后即不管”的做法绝不可行。

历史上,经济衰退加速了企业投资自动化的速度。新冠疫情引发的经济衰退也不例外。疫情不仅改变了人们的工作方式,也改变了企业的招聘方式。人工智能驱动的招聘程序有望成为全球新冠疫情后复苏的重要组成部分。作为一名有责任保护美国所有工人民权的官员,我致力于确保人工智能不会辜负这一潜力。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。