各类组织正借助人工智能辅助招聘决策,但数字权利专家警告,算法可能会延续偏见。
妇女权利团体和数字技术专家表示,旨在针对偏见而精心设计的技术可以“照亮”那些阻碍女性发展的隐性因素。
注重质量的科技公司正利用人工智能绕过或审查简历筛选、加薪决策等环节,并提供个性化的数据化建议。
是因为她是母亲吗?又或者,人们认为她缺乏抱负或领导能力?
性别刻板印象仍在阻碍女性的职场发展,但少数科技公司表示,它们开发了人工智能(AI)系统,可以帮助消除招聘和晋升中的偏见,让女性候选人获得更公平的机会。
雇主和更广泛的经济也可能从中受益。
“我们正处于人工智能发展的这个时刻:我们要么能够把偏见固化到未来……要么把公平固化到未来,”总部位于科罗拉多州的软件公司 Pipeline Equity 首席执行官 Katica Roy 说。
“我们谈论公平时,很多时候会把它视为一个社会议题,或是应该做的正确之事——它确实如此,但实际上这也是一个巨大的经济机遇。”
各类组织越来越多地借助人工智能辅助招聘决策,这引发了数字权利专家的担忧;他们警告说,算法可能会延续偏见。
亚马逊开发的一款人工智能招聘工具在自行学会偏好男性候选人而非女性后,不得不被弃用。
但妇女权利团体和数字技术专家表示,旨在针对偏见而精心设计的技术可以“照亮”那些阻碍女性发展的隐性因素。
“偏见与人性一样古老,传统招聘实践中充斥着各种各样的偏见,”马萨诸塞大学阿默斯特分校伊森伯格管理学院教授 Monideepa Tarafdar 说。
“我认为人工智能可以成为解决方案的一部分,这一点毋庸置疑。但我不认为它能成为唯一的解决方案。”
更具包容性的替代方案
这些以平等为重点的科技公司正利用人工智能绕过或审查简历筛选、加薪决策等环节,并提供个性化的数据化建议。
Pipeline Equity 是一家成立于 2017 年的初创企业,其开发的软件有多种人力资源用途,从检查绩效评估中带有偏见的措辞,到就招聘和晋升提供建议。
Textio 也利用人工智能分析公司的企业声明和招聘信息,以判断其措辞是否带有男性化语气,从而疏远女性或少数群体成员,并提出更具包容性的替代方案。
该领域另一家领先企业 Pymetrics 提供游戏化评估,并称这种评估比阅读简历更公平地评估求职者的潜力。
研究发现,由多元化团队领导的企业往往盈利能力更强;提高女性在职场中的比例并拓展其作用,可能为各国经济带来价值,达到数十亿美元。
“我们有大量资料和一摞摞文件,充分说明了这项商业理由,而且它已经改变了一些人的观念,”世界银行私营部门机构国际金融公司性别与经济包容小组负责人 Henriette Kolb 说。
她在汤森路透基金会年度旗舰活动 Trust Conference 上表示,要在全球范围内改善女性的金融包容性,还有许多工作要做,包括提高女性在企业中的代表性,以及扩大她们获得银行服务的机会。
新冠疫情催生了“女性衰退”,导致女性以不成比例的数量被挤出劳动力市场。国际劳工组织发现,性别差距已经扩大,女性就业的恢复速度预计也会更慢。
与此同时,美国创纪录数量的人辞职,这一现象被称为“大离职潮”,企业正苦于填补空缺职位。
“企业有那么多职位无法填补,我是说,空着的岗位不能替你完成工作,”Textio 首席执行官 Kieran Snyder 说。
“如果你想取得任何形式的成功,就得招聘优秀人才。”
助人还是监视?
妇女权利倡导者和研究人员表示,人工智能并非打造更公平职场的灵丹妙药,并警告说,这项技术带来的问题可能与它解决的问题一样多。
哈佛大学计算与社会研究中心博士后 Manish Raghavan 表示,认为技术能提供某种不带偏见的事实真相或客观性,这是一种幻觉。
“所有人工智能都必须以某种方式从数据中学习;它必须从过去的决策中学习,”他说。
“这并不是说不可能用技术来减轻自身的隐性偏见;我认为,关键在于设计必须极其谨慎。坦白说,我只是不认为我们目前已经能够做到这一点。”
他补充说,大多数商业算法的运作方式缺乏透明度,因此很难审查其表现。
Tarafdar 正牵头开展一项研究,分析人工智能如何导致职场中无意产生的偏见。她表示,有效的解决方案不能只找出招聘中的关键决策,还必须关注更广泛的职场文化。
她补充说,老板也应仔细考虑可以收集多少员工数据,以免其行为从提供帮助转向监视。
妇女职场权利组织 Catalyst 的一位负责人 Allyson Zimmermann 表示,改变的真正关键在于就偏见展开艰难而坦诚的对话,以挑战错误观念。
她补充说,人工智能技术可以帮助打破这些成见、拓展机会。她举例说,一名年轻女性通过一项技术筛选获得了面试机会;这项技术向招聘人员隐去了她的性别和年龄。
“她来参加面试时,他们突然大笑起来。但那不是那种无礼的笑。他们只是非常震惊,没想到她竟然是这么年轻的女性,”她说。
“这确实让他们大开眼界;他们原以为来面试的会是一位中年男性……她参加了面试,得到了这份工作。她告诉我,那是一次非常积极的经历。”



