人工智能究竟是解决地球上所有问题的灵丹妙药，还是必然导致末日的祸因，取决于你问的是谁。
现实可能要平淡得多。人工智能是一种工具，和此前许多技术突破一样，它既可用于行善，也可用于作恶。但聚焦于潜在的极端情境，无助于应对我们眼下的现实。人工智能正越来越多地被用于影响我们购买的产品、欣赏的音乐和电影，保护我们的钱财；也颇具争议地被用于作出招聘决定和处理犯罪行为。
人工智能的主要问题，是所谓的“垃圾进，垃圾出”。我们向算法输入的数据会带入既有偏见，而这些偏见随后会自我应验。以招聘为例，一家过去一直雇用男性候选人的公司会发现，其人工智能会拒绝女性候选人，因为她们不符合过去成功申请者的模式。在犯罪或再犯预测方面，算法会捕捉历史和社会偏见，并进一步加以传播。
从某些方面看，这是个先有鸡还是先有蛋的问题。西方世界更早实现数字化，因此人工智能可供解析的记录更多。此外，女性在许多生活领域中一直代表性不足，因此相关数据较少，而现有数据的质量往往也较低。如果我们无法向人工智能提供没有偏见的高质量数据，它们就会习得并延续我们力求消除的偏见。现有规模最大的数据集往往质量也低得离谱，导致结果难以预测、出人意料，例如推特上出现的种族主义聊天机器人。
这并不是说人工智能本身有什么固有的坏处。它有潜力成为比人类更好的决策工具。人工智能不会被贿赂、欺骗或通过社会工程手段操纵。它不会疲倦、饥饿或发怒。那么，答案是什么？
短期内，我们需要为人工智能制定标准并开展测试，以便识别偏见并努力消除偏见。这些标准需要由独立各方共同商定并接受严格测试，因为要理解机器学习幕后发生的事情，极其复杂且困难。
我们还需要关注人工智能面向用户的体验，以及个人助理和聊天机器人固有的性别歧视问题——它们绝大多数被设定为女性。或许最早广为人知的自动化助理是男性（HAL-9000），但如今看来，我们似乎只能把自动化助理想象成顺从的女性。人们常以消费者研究为这种做法辩护，称消费者就是更喜欢女性声音；但这在多大程度上源于我们使用助理所承担的角色背后的性别刻板印象？
我们有机会通过更加重视包容、赋权和平等来解决这些失衡。让更多女性投身科技行业、编写算法并参与产品开发，将改变我们想象和开发技术的方式，也会改变技术呈现的声音和形象。
然而，这个问题很难解决。科技和工程行业历来是全球男性占比最高的两类行业，无意识的性别偏见（以及相当程度的有意识偏见）十分普遍。尽管我们已经看到，女性进入董事会能够提升绩效、带来新想法，并帮助企业渡过危机时期，但公司往往优先考虑曾在小公司担任首席执行官的男性候选人，而不是曾在大型公司负责整个部门、且可以说拥有更丰富、更相关经验的女性。
目前已有不少举措，帮助女孩学习科技技能，鼓励她们继续接受科学、技术、工程和数学（STEM）领域的教育，并申请男性占主导的行业职位；但在自上而下的变革落实之前，进展仍将缓慢。若今天不采取干预措施，新一代女性确实面临失去我们正为她们培养技能、提供培训，以使她们能够胜任的机会的风险，因为带有偏见的算法只会将她们边缘化，转而延续现状。
我坚信“Girls in AI”等项目的力量，它们能确保新一代劳动者具备推动深刻变革所需的技能。但我们需要行业层面的共识，为她们扫清道路。我们需要制定标准并开展测试，既要确保所依赖数据的质量，也要检测偏见；还要承诺重新审视科技公司的政策和激励机制，以吸引更多女性加入并加快变革步伐。
