机器人若能摆脱对我们自身偏见的反射，就能对社会发挥积极作用。
我最近在世界经济论坛 Annual Meeting of the New Champions（中国大连）上主持了一场关于具有社会颠覆性的技术的专题小组讨论。来自学术界和产业界的专家与观众就机器人如何行善展开交流，议题涵盖从改善健康到保护环境等方面。
随着机器人越来越善于理解人类的情感和社会需求，人工智能技术在提升女性职场参与度方面有不少可行之道。
为何男性和女性在网上看到的招聘广告不同
在对智能机器的诸多批评中，有一项尤为突出：谷歌推荐算法投放招聘广告的方式。卡内基梅隆大学的研究人员发现，该算法 更倾向于推荐 声望高、薪酬高的职位给男性，而非女性。
研究人员使用仅在性别上不同、且没有搜索记录的虚假用户身份在线搜索工作，结果发现，谷歌向女性展示的高薪高管职位广告远少于男性，数量为318对1852。与此同时，在谷歌上进行简单的图片搜索“CEO”，出现的是男性图片，而非女性图片。
对于我们这些从事推荐引擎工作的人来说，这一发现既令人震惊，也是一记警钟。推荐引擎，例如亚马逊的“购买此书的用户还购买了这些书”，或谷歌的搜索结果列表，都是基于汇总的群体行为。在本案例中，机器学习学会了人类用户普遍做出的所有判断和偏见。这就像银行审查用户的信用记录，并根据对其能否偿还贷款的预测作出决定一样，推荐引擎会考察用户特征（包括性别和种族），并推送算法认为点击可能性更高、更为合适的广告。
不过，有一种简单的方法可以破解机器的这种“刻板印象”。如果你先搜索“女性CEO”，再搜索高管职位，算法会给出更为公平的结果，因为你的搜索记录同样体现了多样性。
算法天生就带有性别歧视吗？
这似乎仍然让用户承担了对抗机器性别歧视的负担。那么，人工智能算法是否因为既从人类行为中的善举也从其中的恶习中学习，而天生就带有性别歧视？在争取性别平等的斗争中，机器将成为我们的朋友还是对手？
要消除推荐引擎的歧视、促进职场性别平等，一种方法是用更加多元的用户群体训练推荐引擎，并使引擎更好地理解人们的意图。
引擎不应只看年龄、性别等少数人口统计学指标，而可以采用更为复杂的机器学习方法，考察更详细的用户档案和在线用户数据，从而提供更加个性化的推荐。
此外，人工智能——尤其是语言处理技术——有助于揭示我们在职场中使用语言时所存在的无意识性别偏见。它可用于呈现员工情绪和公司的企业文化。甚至可以设计成在搜寻和招聘过程中提升多样性。
为性别歧视性语言设一个“拼写检查”？
许多机构投入资源提升多样性，同时，有报告显示存在“性别红利”：董事会或高级管理层中有女性的机构，员工留任率高出20%，员工工作投入程度高出12%，盈利能力提升47%。
然而，我们如何确保这些投入能带来可靠的回报？情感分析是一种通过所用词语辨别人们感受的技术，有助于凸显员工对其工作场所的真实看法。如果女性对领导层和晋升的负面看法多于男性，那么公司就需要更加关注其多样性政策。
据 《纽约时报》报道， 本杰明·施密特教授收集的自然语言统计数据显示，在1400万条学生对教授的网络评价中存在无意识性别偏见。
数据显示，人们对男性更多地给予善意推定，并且会因同样的特质赞扬男性、批评女性。例如，男教授被视为“才华横溢”而受到尊重，而具备同样特质的女教授则被认为“专横霸道”。
这种态度在对职场女性领导者的看法中同样普遍。在绩效考核或晋升过程中，若有一款软件能够扫描评审意见信中的性别偏见语言并将其标出，将会很有帮助，就像拼写检查或语法检查会标出潜在的词汇或句法错误一样。利用根据施密特教授所展示的这类统计数据训练的情感分析技术，这一设想是可行的。
当机器人主持招聘面试时
招聘和晋升的一个关键环节是搜寻过程——筛选候选人档案和简历，以找到最匹配的人选。同样，预测分析技术有助于使这一过程更加公平。
推荐引擎可以被编程为撒下广泛的网络，在全球范围内寻找潜在人才，且不对任何特定群体存有偏见。此类引擎可以考察个人的网络存在，从其在线档案、出版物、社交网络，到其在线演示，并运用自然语言处理技术分析其与特定职位的潜在匹配度。
潜在雇主可以在系统中纳入多样性权重。整个首轮筛选过程都可以实现自动化。
其次，通常会进行初步面谈，以了解候选人的性格和领导潜力。为此有许多在线测试和调查。人工智能技术可用于加强这一环节。可以部署基于人工智能的虚拟面试官，向候选人提问，并通过面部表情、手势和肢体语言的图像识别，以及语音语调的语音识别，最重要的是对其面试问题回答的自然语言理解，来评估其回应。
与人类面试官相比，智能机器的一大优势在于其可以无限扩展。正如每天处理数百万次搜索请求的搜索引擎一样，虚拟面试官可以在线提供服务，供众多候选人同时使用。另一优势在于，机器可以被编程为使用性别中立的语言，避免对面试过程造成偏见。算法可以基于对某一性别不存在偏向的预选样本进行训练。
我认为，这类智能系统应当用于协助人类遴选委员会，即便它们并非取代后者。若能比较机器“搜寻”与人工搜寻过程的结果，并通过主动学习过程提供反馈，以同时提高人类与机器识别合适人选的准确性，将是一件好事。
女孩接受教育，人人受益
众所周知，女孩受到良好教育时，整个社会都会受益。随着可汗学院等在线项目的出现，偏远地区越来越多的女孩得以接受教育。女性还可以接受在线职业培训，若她们选择如此，便可在产假期间或为照顾年幼子女而休假的数年中继续学习。在线培训对两性都有益，但在一个我们常常追问女性能否“兼得一切”的社会里，它最终将有助于弥合性别差距。
人工智能还能在多方面改进在线培训。自然语言处理和自动语音识别可用于多个学科领域的学习。依托这些技术的互动程序或家用机器人，可以在家中为女性提供辅导。
已有文本写作软件能在撰写求职信时提供更恰当的用词建议。更进一步，语义解析和情感分析可用于为求职申请的文章写作提供建议。
机器人厨师与保姆
女性在家中仍承担了大部分清洁、烹饪和照料孩子的工作。 去年夏天发表的一项研究，由英国经济与社会研究理事会 （ESRC）完成，结果发现，即使女性是家庭的主要经济支柱，英国女性仍承担了至少三分之二的家务劳动。在印度 National Sample Survey Organization 于2011-12年进行调查的女性中，约39%的农村女性和约50%的城市女性大部分时间用于家务。虽然社会观念需要转变以应对这一问题，但技术也有助于释放女性的时间。
智能厨房可以提前烹制膳食，它会检查冰箱里的食材，并在需要时订购更多食材。机器人吸尘器可以在无人在家时打扫房屋。在线辅导系统可以与儿童互动，监督他们的学习。机器人保姆可以在保障幼儿安全方面发挥作用。自动驾驶汽车在充分开发并配备足够安全措施后，可用于接送儿童参加课后活动。为了让机器人育儿兼具人情味，家长和监护人可以通过这些机器人，以视频方式远程与孩子交流。
也可以设想，机器人护理员可以提醒老人按时服药，并通过与他们互动陪伴他们。人工智能对医疗保健的总体益处在于，使人们更加健康、能够获得更好的治疗，从而减轻许多女性照护病人和老人的负担。
Zara the Supergirl
今年年初，我实验室的学生和博士后研究人员开始将我们各类语音识别和情绪识别模块整合在一起，打造出一台我们称为Zara the Supergirl的原型共情机器。目前，她是一个虚拟机器人，在线上以卡通形象呈现。
机器能否理解一个人的性格及其他与领导潜力相关的特质，并不论性别，帮助将最合适的候选人与高管或董事会职位相匹配？机器护理人员能否对患者的疼痛感同身受，并察觉其痛苦？机器能否具备这些任务所需的那种情商？打造Zara的目的，在于展示自动化教练的可能性。
如这段 视频所示，Zara的算法会分析电脑摄像头捕捉的图像，以判断你的性别和种族。随后，她会猜测你使用的语言，并用你的母语向你提出几个问题。你最早的记忆是什么？讲讲你的母亲。你上次的假期怎么样？给我讲一个关于一个女人、一只狗和一棵树的故事。通过这一过程，Zara将根据你的面部表情、声音的声学特征以及你回答的内容，以模仿共情的方式作出回应。
经过五分钟的对话，Zara将尝试在 16种性格类型中判断你的性格：你似乎是一个有远见的人，你需要学会更多地授权他人，等等。
Zara目前还只是原型，但由于她基于机器学习算法，随着与更多人互动并收集更多数据，她会变得“更聪明”。完全可以设想训练Zara对领导职位的候选人进行面试，并提供无偏见的筛选。也有可能训练Zara以共情的方式与患者和老人交谈。
从更好的推荐算法到网络超级女孩，人工智能技术有潜力帮助我们识别并绕开自身的偏见。
作者：Pascale Fung，香港科技大学电子及计算机工程学教授
图片：2015年9月8日，参观者在中国北京举行的2015年百度世界大会上与百度机器人小度交谈。小度是百度开发的人工智能机器人，可以访问该公司的搜索引擎数据库，并能响应语音指令，百度表示。REUTERS/Kim Kyung-Hoon
