如果机器人可以免受我们自身偏见的影响, 那么它们一定可以发挥积极的作用。

在中国大连召开的世界经济论坛新领军者年会上,我领导了一场小组讨论,探讨了足以颠覆社会认知的科技。来自学术界与行业的专家济济一堂,与现场的参会代表一起碰撞思想的火花,琢磨机器人的妙用,从能否利用机器人来提升人们的健康状况,一直谈论到机器人能否作用于环境的保护。

随着机器人对人类情感与社会需求的理解愈发到位,人工智能科技可以从多方面入手,帮助女性提升在工作领域的参与度。

为什么男性和女性会在网上看到不一样的招聘广告?

纵观对智能机器的颇多微词,其中一条尤为醒目,那与谷歌创建的广告定位算法所提供的招聘广告有关。根据卡内基·梅隆大学的研究显示,谷歌的高薪职位推荐存在重男轻女的现象。

研究人员模拟创立了求职者的用户资料,这些用户从未有过网页浏览历史,除了性别不同外别无二致。当这些模拟用户进行网上求职时,较之模拟的女性求职者,模拟男性求职者总能收到更多高薪职位的广告。男性用户能收到1852个广告,而女性用户仅收到318个。与此同时,在谷歌图片搜索中输入“CEO”,显示的只有男性照片,女性则不见其踪。

对从事研发推荐引擎的人们来说,此事应该是个不小的触动。诸如此类的推荐引擎,都是基于受众群体的总体表现来进行推荐的,包括亚马逊推出的“购买此书的顾客也同时购买”和谷歌的搜索清单在内,都是如此。如此说来,智能机器学习到的一切偏见与判断通常都来自人类用户自身。银行系统也不能幸免,他们通过审查客户的历史信用记录来预估客户偿还贷款的能力,从而做出决定。推荐引擎通过调查用户的各项特质,包括性别和种族,以此推出在它眼中最适合的广告,换取更高的点击率。

不过,用一个简单的办法,就能打破机器抱有的这些“成见”。如果你输入“女性CEO”,然后再搜索行政领导职位的话,智能算法会给出一个更为公正的搜索结果。当然了,这是因为你的搜索历史也表现出了差异性的缘故。

难道智能算法是与生俱来的性别歧视者吗?

看来,要想消灭机器惹出来的性别歧视现象,还是得靠用户负任蒙劳了。由于人工智能算法“忠佞不辨“,人类的行为无论好歹都被它悉数学来。所以难道说,智能算法是与生俱来的性别歧视者吗?在对抗性别歧视的征途上,智能机器究竟是敌是友呢?

为了促进工作上的性别平等意识,消灭推荐引擎的歧视现象,我们可以采取措施,训练搜索引擎拓宽其用户的多样性,使引擎更好地解读人类的意图。

除了仅盯住年龄、性别和其他零星的人口统计数值不放外,引擎可以接受训练,通过更为成熟的机器学习法则,找寻更加详尽的客户资料和在线用户数据,从而给予更加个性化的推荐。

此外,人工智能系统,尤其是语言程序,有助于展示人们不知不觉就在工作用语上流露出的性别歧视问题,并且有助于展现员工的情绪活动和公司的企业文化。不仅如此,人工智能还可以提高筛选和招聘的多元性。

人工智能可以作为歧视用语的“拼写检查”工具吗?

很多企业和组织都在促进多样性上有所投资。据有关性别红利的报告显示,相较于其他企业,女性在董事会任职或担任高管的企业能更好的留住员工,其人员流失率仅为其他公司的80%,员工的工作积极性会增加12% ,企业盈利能增加47%。

不过,如何确保我们的投资有可靠的回报呢?一项称作情感识别的技术可以帮助人们更好地意识到员工对工作的真实想法。该技术通过分析用词来识别人们的情感。如果相比较男性而言,有更多的女性认为“领导力”或“升职”这样的字样令人反感,那么公司可要对其差异政策多加留意了。

据《纽约时报》的报道,本杰明·施密特教授收集了1400万名学生的自然语言数据,通过调查学生们对教授的在线评估,反映出了学生潜意识里对教授的性别歧视观念。

数据表明,人们更愿意假定男人无辜而非女人。对于同一种品质,对男性更愿意用褒奖之辞,对女性则多为批评。例如,人们夸奖男性教授的资质聪颖,“超凡脱俗”,但倘若换了女性教授,人们就批评她过于“飞扬跋扈”。

在工作中,人们对女性领导的态度也是如此。每当到了进行工作表现反馈或升职评比的时候,性别歧视现象就尤为突出。要是有个软件能检测反馈信里的性别歧视用语,甚至能把它们标注出来就好了,那样我们就能看到到底有多少数不清的歧视用语出现,估计和拼写检查或语法检测划出来的“拼写或语法错误“一样多。实际上,如果能提供像施密特教授所展示的那类数据,人们是可以利用情感识别技术来实现这一切的。

当机器人成为面试官

搜索过程是招聘和升职的一个关键环节。在这一环节中,人们通过对应聘者个人资料和简历的筛选匹配出最合适的人选。自然,预测分析技术能使得这一进程更加公平。

通过编程设计,搜索引擎可以做到全面撒网,不偏不倚,在世界范围内挖掘潜在的人才。这种引擎不仅可以看到用户的网上形象,包括他们的网络个人档案,发表作品,社交圈以及在线自我展示等,还能利用自然语言处理技术分析出适合用户的潜在工作岗位。潜在的雇主可以在系统中增加差异性的权重,整个初始步骤都可以实现完全的自动化。

此外,预估面试常常可以发掘应聘者的个性和领导力潜能。许多的在线测试和调查问卷都是为了达到这一目的而设计的,而人工智能科技则可以帮助此项技术更上一层楼。人工智能面试官是这样进行面试的:它向应聘者提问,然后利用图像识别和语音识别技术判断应聘者在回答问题时的面部表情、手势、肢体语言以及语音语调,最为重要的,是从自然语言的角度对应聘者进行考量,考察他们对问题答案的理解,从而多方面的判辨应聘者的回答。

相较于人类面试官,智能机器的优势在于它可以无限延展。虚拟面试官完全可以和搜索引擎一较高下,搜索引擎一天可以处理数以百万计的搜索请求,而虚拟面试官则可以同时在线面试诸多应征者。虚拟面试官的另一大优势在于,通过编程设计,它可以使用中性语言,从而避免在面试过程中出现歧视现象。算法训练可以作用于预选样本,进而在性别问题上保持公允,毫无偏颇。

依我之见,虽然智能系统不能替代人类的遴选委员会之职,但这种系统可以协助委员会进行工作。如果能把机器给出的搜索结果拿来和人类的结论进行比较,并在主动学习的过程中提出反馈意见,这无疑是一件乐事。如此一来,人类和机器的准确性都能大幅提高,从而找到最佳的应聘者。

让女孩受教育是能使所有人受益的共赢举措

众所周知,让女孩受教育是能使所有人受益的共赢举措。随着可汗学院等网络课堂项目的出现,越来越多的偏远地区女孩们得以接受教育。如果女性有意愿的话,她们还可以在休产检期间或在照顾幼童的年假期间接受在线职业培训。其实,无论男女,他们都能在网络培训中受益匪浅。不过,我们总会先质问女性能否“享有这一切权力”,这样的社会氛围终将有助于性别鸿沟的缩小。

人工智能可以在多方面助网络培训一臂之力。自然语言处理和自动语言识别系统可以在很多的学科领域发挥作用,这些技术实现了交互式程序和家用机器人在实践中的应用,帮助女性在家中就能接受培训。

文本编写软件早已面世,它能在遣词造句方面提供更好的选择,帮助人们写申请信。更进一步讲,语义分析和情感分析系统可以帮助人们书写职位申请的文书时建言献策。

机器人大厨与机器人保姆

女性在家中依旧承担着冗杂的家务活,她们要洗衣服、做饭、还要照顾孩子。
去年夏天,经济和社会研究理事会(ESRC)的研究发现,在英国,即使女人挑起了养家糊口的大梁,回到家后她们还是要承担三分之二的家务活。2011年12月,印度国家抽样调查组织对女性展开调查,结果表明,大约有39%的农村地区女性,以及约50%的城市地区女性在家务上耗费了她们几乎全部的时间。不仅社会态度亟待转变,以扭转当前的现状,科技也能帮助解放女性的时间。

智能厨房可以检查冰箱里有什么食材,如果人们有需要的话,还可以购置更多的原料。因此做饭的效率大大提升,人们能提前把饭煮好。主人不在家的时候,扫地吸尘机器人也可以自己打扫屋子。在线教学系统可以和孩子们互动,并监督他们的学习情况。保姆机器人则可以为小朋友保驾护航,保护他们的安全。等自动驾驶汽车技术完全成熟,并采用了足够的安全措施后,就可以用了接小朋友放学进行课外活动了。为了防止机器人保育员脱离人类的掌控,家长和监护人可以就小朋友的安全问题和这些机器人进行远程的视频通话。

我们也不难想象,机器人护理员可以提醒老人及时吃药,和他们进行互动,陪伴在他们身边。总而言之,在健康护理方面,人工智能的好处颇多,它们可以减轻很多女性在照顾家中病患和老人的负担,帮助改善人们的健康状况,提供更好的治疗方式。

超级少女“萨拉”

今年伊始,我实验室里的学生和博士后们开始行动起来,把多种语音和情感识别模块添加到这个还处在雏形阶段的情感机器人中,我们给她取名为——超级少女“萨拉”。目前,她暂时还是一个虚拟的机器人,以卡通形象的造型和大家在网上见面。

不过,这是真的吗,机器人居然可以解读人类的性格,可以发掘他们的领导力潜能,还可以帮助匹配最合适的招聘者?这是真的吗,机器人护理员可以对患者的病痛感同身受,还能感知到他们的不安情绪?这是真的吗,机器人也可以具备情绪智商来满足那些任务的需求?是的,这就是我们打造萨拉的目的,我们要通过她来展示自动化培训的可能性。

视频所示,电脑的网络摄像头捕捉到图像,再经过萨拉的算法研究,就可以判定你的性别和种族。接下来,她会推测你所使用的语言,并用你的母语提几个问题。“您脑海中最早的记忆是什么?”“能为我介绍一下您的母亲吗?”“您上一次的旅行如何?”“给我讲个故事好吗?我想听跟那树,那狗和那位女子有关的故事。”在这个过程中,萨拉基于你的面部表情,说话的声线特征,以及回答的内容这几方面做出相应的回复,充分感知人类的情感。

经过五分钟的交谈,萨拉能在16种性格特征中猜测出你的性格是什么:你平时可能喜欢天马行空,你要学着更有主见,等等。

尽管萨拉还是一个雏形,但她建立在机器学习算法的基础之上。因此,只要她和更多的人进行互动,收集更多的数据,她就能变得更加智能。有朝一日,萨拉完全能胜任应聘管理能职位的面试官,并且毫无偏私的进行筛选。当然,训练萨拉感同身受地与病患和老人们进行交谈也是指日可待。

从日益改进的推荐算法到计算机超级女孩,人工智能技术在帮助我们识人善用和克服自身偏见等问题上大有可为。


作者:Pascale Fung 是香港科技大学电子及计算机工程学教授

本文由达沃斯博客原创,转载请注明来源并附上原文链接。

翻译:达沃斯博客翻译小组原玥

以上内容仅代表作者个人观点。世界经济论坛博客是一个独立且中立的平台,旨在集合各方观点讨论全球、区域及行业性重要话题。