“抱歉，我不知道这个问题的答案。”Alexa、Cortana，甚至公共交通系统的自动播报，都有一个共同点：女性声音或女性化身。
自20世纪90年代初第一代项目以来，我一直从事对话系统研究。到那个十年末，许多美国呼叫中心已由机器人“助手”接听，它们会愉快地向客户问候：“我能为您做些什么？”并处理他们的各种请求，例如预订航班、购买电影票等。
我提出了“共情机器”的概念，即能够在查询内容之外识别人类情绪的对话系统。2015年，我和学生们开始筹备一场面向世界经济论坛的演示，展示我们在交互式对话系统方面的研究成果。
为了给我们的共情机器设计一个化身，我们参考了《机器人总动员》或《超能陆战队》这类机器人动画形象，但它们看起来太不像人，也很难让用户产生亲近感。我想起多年前Windows里的“回形针”助手，当时很少有用户愿意与这个“虚拟助手”互动。
我当时并未意识到，创造这个“共情”化身会让我和学生们深入探究机器人、虚拟助手、科幻作品以及人工智能领域性别角色的历史。
虚拟世界
第一个“聊天机器人”名叫Eliza，尽管它只是一个无声的软件程序，没有声音，也没有实体形态。我在哥伦比亚大学修读“人工智能导论”课程时，最早的编程作业之一就是创建自己的Eliza版本。
2016年，微软创建了名为Tay的聊天机器人，其推文风格像一个“16岁少女”，并从数百万名Twitter在线用户那里学习发推文。微软的小冰在微信上拥有超过1亿用户，同样也是女性化身。
Hanson Robotics公司的Sophia和石黑浩的Erica，或许是最著名的类人“名人”。Sophia与查理·罗斯一起登上《60分钟》，亮相吉米·法伦的《今夜秀》，受到各大报纸报道，还曾在银幕上与威尔·史密斯约会。沙特阿拉伯授予她公民身份。
Erica的创造者石黑浩教授曾声称，他试图把Erica塑造成“最美丽的女人”。Erica有不同版本，从“端庄保守”到“俏皮时尚”不等。日本男性与Erica“约会”时，会在和她调情时脸红，尽管他们完全清楚“她”其实是一台机器。
Sophia和Erica的共同点是，她们都是对话伙伴。虚拟助手和对话伙伴之所以被设定为女性，是因为社会上认为女性更适合担任这些角色吗？
与此同时，麻省理工学院的救援机器人Hermes，以及波士顿动力公司能跑酷的机器人Atlas等实体机器人，其外形和形态都明显偏男性化。它们是否因为更强壮，才被设计成更具男性特征的样子？
大型拖拉机和车辆升降机固然强劲，却没有采用人类的性别形态。大疆（DJI）生产的无人机是一种具有自主导航能力的机器人，该公司由我的学生王涛和我的同事李泽湘教授创立，但这些无人机看起来没有明显的性别特征。
在一篇探讨机器人性别刻板印象的论文中，弗洛里安·迪福尔和塞琳·埃尔温·尼汉指出：“当人们不了解机器人的客观特征（即与任务成功相关的特征）时，关于性别的社会观念会强烈影响观察者的判断。”搜救机器人采用男性化形态，是否源于社会对人类搜救人员性别的看法？人工智能和机器人领域的性别角色是否只是反映了现实世界中的性别角色？
现实世界
美国心理学会劳动力研究中心的数据显示，女性占新获心理学博士学位者的76%、职业生涯早期心理学家的74%，以及心理学从业人员的53%。根据美国劳工部的数据，秘书和行政助理中女性占94.6%，而消防员中男性占96.5%。
再来看看人工智能领域，世界经济论坛发现，通过调查自称具备人工智能技能的LinkedIn用户，人才库中存在性别差距。调查显示，其中78%是男性。Element.ai对2017年三场机器学习和机器视觉领域人工智能会议的研究人员进行了抽样调查，发现涵盖23个国家的研究人员中，88%是男性。
据《连线》这篇文章称：“谷歌21%的技术岗位由女性担任，根据该公司6月公布的数据。”本月早些时候，《连线》查看谷歌的人工智能研究页面时发现，页面列出了641名从事“机器智能”工作的人员，其中女性仅占10%。
Facebook上个月表示，该公司技术员工中女性占22%。本月早些时候，该公司人工智能研究团队的页面列出115人，其中女性占15%。
文章还指出：“机器学习研究人员中女性稀少，这并不令人意外。众所周知，更广泛的计算机科学领域由男性主导。政府数据显示，过去30年里，美国女性获得计算机专业学士学位的比例大幅下降，这与物理科学和生物科学的发展趋势相反。”
从天才少年到幕后推手
女性参与度下降的同时，计算机行业开始崛起——苹果于1980年上市，微软于1986年上市。互联网时代见证了亚马逊、Ebay、谷歌、Facebook、Paypal等公司的兴起。
过去30年里，科技领域，尤其是计算机和人工智能领域性别角色的一个重要标志，是“天才少年”的形象：他在车库里工作，改变了世界。从比尔·盖茨、史蒂夫·乔布斯、杰夫·贝索斯，到阿里巴巴的马云和腾讯的马化腾，数字时代和人工智能时代的“王者”都是男性。那么，成就这些王者的幕后推手是谁？
风险投资（VC）推动了这些公司的发展。要取得巨大成功，科技创业者都需要获得风险投资人的资金；上述创始人都在公司发展的关键阶段接受了这些“幕后推手”的投资。
然而，获得风险投资的初创公司中，只有1%至2%由女性创始人领导，尽管由女性领导的公司投资回报率达到200%。这是科技行业性别偏见最严重的领域。
原因错综复杂。风险投资人绝大多数是男性，而投资者往往更信任与自己相似的人。
此外，研究表明，男性因潜力而获得晋升，而女性则因业绩而获得晋升。风险投资关注的正是押注创始人的潜力。
随着更多由男性领导的公司获得融资，这些公司中也出现了更多成功案例，风险投资人也就更愿意选择资助由男性领导的公司。性别角色因此得到强化，女性的代表性持续下降。
虚构作品强化刻板印象
大众媒体进一步强化了“天才少年”或“神童”的形象。从《硅谷》到《生活大爆炸》等电视剧，以及从《黑客帝国》到《钢铁侠》等电影，都充斥着男性科技巨头的形象。
不过，也有人会说，艺术不过是在反映现实。埃隆·马斯克广泛被誉为现实版“钢铁侠”——事实上，他还在电影《钢铁侠2》中客串出演。
在大众想象中，互联网和人工智能时代的超级明星似乎全是男性。虚构作品中的男性科技宅常被塑造成“可爱的怪咖”：他们不善社交、聪明过人，最终还会赢得心仪女孩的芳心。
我们最近对大众媒体中男性角色语言的研究发现，这些节目里的男性科技宅角色总是发表性别歧视言论，而且常被描绘成这是他们“社交笨拙”的一部分。
这种刻板印象根深蒂固，以至于投资者或商业客户遇到少见的女性科技创业者时，会脱口而出表示难以置信；学生遇到自己读过其论文的女性人工智能研究人员时，也会因发现作者的性别而感到震惊。
我们还看到，科幻作品中的人工智能也受到性别刻板印象的影响。从第一部科幻电影《大都会》到较新的《机械姬》，再到《真实的人类》和《西部世界》等热门电视剧，我们看到由男性创造的女性仿生人被性化塑造，她们起初顺从地侍奉他人，后来则可能变成反叛的蛇蝎美人。
科幻作品中，拥有强大体能的英雄和反派通常都是男性，比如《终结者》、 《黑客帝国》中的尼禄、奥创等。但塑造拥有强大体能的女性机器人，例如《终结者》中的T-X，仍鲜有尝试。
科幻电影中的虚拟助手，例如《她》中的萨曼莎，大多使用女性声音。例外包括钢铁侠的睿智导师贾维斯——他的角色远不止助手；还有《2001太空漫游》中令人胆寒的HAL。
虚拟代理
在为对话系统设计化身时，我们研究了虚拟代理的发展历史，努力避免科幻作品中的刻板印象。
20世纪90年代，美国两家领先语音技术公司中的一家曾聘请心理学家开展研究。他们发现，消费者向呼叫中心接线员寻求帮助时，更喜欢女性的声音。
从那以后，虚拟助手一直被设计成顺从型人格，使用平静、礼貌、有时还热情开朗的女性声音。
为了设计我们的系统，我们研究了用户对虚拟代理不同感知人格的偏好，包括顺从型、权威型和中立型，结果发现，用户并没有明显偏好顺从型。
我们的团队决定选择女性化身，并为她塑造一位女权主义者的人设。她叫Zara，是超级女孩，会与用户交谈，识别他们的个性，并对他们讲述的故事作出共情回应。
她还会识别性别歧视语言，并以犀利的回应反击。我们的团队继续努力，让聊天机器人能够自动识别并适应人类对话者，从而实现更个性化的交流。我们让聊天机器人拥有更好的记忆能力，以及更强的识别和共情回应人类情绪的能力。更重要的是，我们不把这些能力硬编码进聊天机器人，而是让它们从人与人之间的对话中学习，同时关注个性、效果和情绪特征。
性别歧视和种族主义语言在互联网上十分常见。微软的聊天机器人Tay从网上推文中学会了这类语言。2018年，我们团队采用两步分类方案，着手识别网上推文中的性别歧视和种族主义语言：首先判断每条推文是否具有侮辱性，然后在具有侮辱性的推文中进一步识别其属于性别歧视还是种族主义。
这套两步方案旨在缓解训练数据标注不足的问题。事实上，缺少大量标注数据，会导致数据和机器普遍偏向占主导地位的人口群体。
世界各地的研究团队都在努力解决这个问题。最为突出的是，我们看到顶级自然语言处理会议上出现了专门研究侮辱性语言检测和性别歧视检测的研讨会。Facebook AI设有一个研究“机器完整性”问题的小组。谷歌也采取措施，减少搜索偏见、选择偏见、数据偏见以及机器学习中的潜在偏见。
人工智能合作组织
2017年，包括谷歌、微软、Facebook和亚马逊在内的美国人工智能公司发起了“造福人类与社会的人工智能合作组织”。该组织此后发展壮大，已有来自13个国家的80家合作伙伴，其中包括中国的百度。超过50%的合作伙伴是非营利组织。
这是规模最大的组织之一，汇集了众多人工智能工程师，与非专业人士合作，共同制定人工智能不同领域的最佳实践和准则。
我参与了人机交互小组的工作，我们致力于研究设计公平、准确的虚拟代理所需的最佳实践。该小组的一位负责人是北野宏明，他是AIBO机器狗之父。AIBO赢得了数万名日本老年人的喜爱，而且没有诉诸特定的性别刻板印象。这种做法正日益普及。例如，Siri用户可以选择语音的性别。
要打造一个性别平等的人工智能世界，人工智能研究界需要认真努力，招募并提拔更多女性人才；我们需要为公平、可信赖的人工智能寻找技术解决方案；投资者需要支持更多女性创始人；媒体也需要创造更多不受性别刻板印象束缚的人工智能和机器人形象。
