人工智能（AI）系统日益变得更加智能，已在围棋等游戏中击败世界冠军，、识别医学扫描中的肿瘤方面表现优于人类放射科医生，并提升了耗电量巨大的数据中心的效率。一些经济学家正将人工智能的变革潜力与蒸汽机、电力或晶体管等“通用目的技术”相提并论。
但当前的人工智能系统远非完美。它们往往会反映训练数据中的偏见，并且在面对意外情况时容易失效。它们也可能被操纵，正如社交媒体上的虚假信息争议所示，YouTube上发布的暴力内容，或者著名的案例，微软的聊天机器人Tay，它在数小时内就被操纵，发表了种族主义和性别歧视言论。
那么，我们真的要把这些容易产生偏见、脆弱不堪的技术，变成未来经济的基石吗？
降低风险
降低人工智能风险的一种方法，是提高参与其开发团队的多元化程度。正如关于集体决策和创造力的研究所表明，认知多元化程度更高的群体往往能做出更好的决策。遗憾的是，这与当前开发人工智能系统的群体状况相去甚远。而性别多元化的缺失，正是其中一个重要（但并非唯一）的维度。
一项综述由人工智能现在研究所于今年早些时候发表，结果显示，申请知名人工智能会议的研究人员中，女性不到20%；在斯坦福大学和加州大学伯克利分校学习人工智能的本科生中，女性仅占四分之一。
作者认为，性别多元化的缺失导致人工智能出现的失误对女性的影响尤为独特，例如亚马逊的招聘系统曾被证明会歧视名字为女性的求职者。
我们近期的报告《人工智能研究中的性别多元化》《人工智能研究中的性别多元化》，对arXiv上的150万篇论文进行了“大数据”分析。arXiv是人工智能社群广泛用于发布其研究成果的预印本网站。
我们分析了摘要文本，以确定哪些论文应用了人工智能技术，根据作者姓名推断其性别，并研究了人工智能领域的性别多元化水平及其随时间的演变。我们还比较了不同研究领域和国家的情况，以及有女性合著者的论文与全男性作者论文在语言上的差异。
我们的分析证实了人工智能研究中存在性别多元化危机这一观点。在arXiv上，仅有13.8%的人工智能作者为女性；从相对比例来看，至少有一名女性合著的人工智能论文占比自20世纪90年代以来并未改善。
不同国家和研究领域之间存在显著差异。我们发现，荷兰、挪威和丹麦的女性在人工智能研究中的代表性较高，而日本和新加坡则较低。我们还发现，与从事计算机科学或数学研究的女性相比，从事物理学、教育学、生物学以及计算社会科学研究的女性更有可能发表人工智能相关成果。
除了衡量人工智能研究人员队伍的性别多元化程度外，我们还探究了有女性参与和无女性参与的研究论文之间的语义差异。我们检验了这样一个假设：性别多元化程度更高的研究团队往往会增加人工智能研究所考虑的议题和主题的多样性，从而可能使其成果更具包容性。
为此，我们使用一种名为词嵌入的机器学习技术，衡量了每篇论文的“语义特征”，并比较了至少有一名女性作者的论文与没有任何女性作者的论文之间的这些特征。
这项分析聚焦于英国的机器学习与计算社会科学领域，结果显示两组之间存在显著差异。具体而言，我们发现，至少有一名女性合著者的论文往往更具应用性，也更具社会意识，“公平”“人类流动性”“心理”“健康”“性别”和“人格”等术语发挥了关键作用。两组之间的差异与认知多元化会影响研究成果这一观点相吻合，并表明它促使研究更加关注社会问题。
如何解决
那么，人工智能研究中长期存在的性别差距是由什么造成的？我们又能采取哪些措施加以应对？
研究表明，科学、技术、工程和数学（STEM）领域从业人员的性别多元化缺失并非由单一因素造成：性别刻板印象和歧视、缺乏榜样和导师、对工作与生活平衡关注不足，以及科技行业中“有毒”的工作环境相互叠加，共同形成了对性别包容性的不利局面。
要弥合人工智能研究中的性别差距，并没有简单的解决方案。可以发挥作用的措施包括：推动全系统层面的变革，营造安全、包容的环境，以支持和促进代表性不足群体的研究人员；转变研究与产业界的态度和文化；以及更好地传达人工智能在众多领域的变革潜力。
政策干预（例如政府投资的1,350万英镑，用于通过新的转换学位课程提升人工智能岗位的多元化）将在一定程度上改善现状，但仍需开展更大范围的干预，以加强艺术、人文学科与人工智能之间的联系，并改变人们对谁可以从事人工智能工作的固有印象。
虽然女孩在接受教育的过程中不成比例地放弃STEM学科并没有单一的原因，但有证据表明，包括普遍存在的性别刻板印象以及对女孩自信心的影响大于男孩的教学环境在内的各种因素都在这一问题中起到了作用。我们还必须展示那些正在利用人工智能带来积极改变的榜样。
一项致力于解决这些问题的切实举措是Longitude Explorer Prize（经度探索者奖），该奖项鼓励中学生运用人工智能解决社会挑战，并与人工智能领域的榜样合作。我们希望年轻人，尤其是女孩，能够认识到人工智能造福社会的潜力，以及她们在推动变革中的作用。
通过培养年轻女性的技能和自信，我们可以改变学习和从事人工智能工作的人群比例，并有助于应对人工智能可能存在的偏见问题。
