研究发现，现代人工智能系统所使用的算法会产生歧视性结果，因为这些算法基于融入社会偏见的数据进行训练。
研究人员报告称，这些搜索结果可能加深用户的性别偏见，并有可能影响招聘决策。
研究结果呼吁建立一种将人类心理学融入互联网搜索算法的人工智能伦理模型，以揭示并减轻偏见。
一项新研究指出，即使使用性别中立的互联网搜索，结果仍可能呈现男性占主导的输出。
研究人员报告称，这些搜索结果会影响用户，加深性别偏见，并可能影响招聘决策。
这项研究发表于期刊《美国国家科学院院刊》，是最新揭示人工智能（AI）如何改变我们的认知和行为的研究之一。
“人们日益担忧，现代人工智能系统所使用的算法会产生歧视性结果，这可能是因为它们基于嵌入社会偏见的数据进行训练，”纽约大学心理学系博士后研究员、论文第一作者玛达莉娜·弗拉斯恰努（Madalina Vlasceanu）说。
“这些发现呼吁建立一种人工智能伦理模型，将人类心理学与计算和社会学方法相结合，以揭示算法偏见的形成、运作和缓解方式，”作者戴维·阿莫迪奥（David Amodio）说。他是纽约大学心理学系和阿姆斯特丹大学的教授。
技术专家表示担忧，现代人工智能系统所使用的算法会产生歧视性结果，这可能是因为它们基于根深蒂固的社会偏见数据进行训练。
“一些20世纪50年代关于性别的观念，实际上仍嵌入在我们的数据库系统中。”梅雷迪思·布鲁萨德（Meredith Broussard）今年早些时候对《人工智能并不智能：计算机如何误解世界》一书的作者、纽约大学亚瑟·L·卡特新闻学院教授告诉Markup。该书由麻省理工学院出版社于2018年出版。
弗拉斯恰努和阿莫迪奥表示，决策者使用人工智能可能会导致现有差距扩大，而非缩小。
为探究这一可能性，他们开展了研究，试图确定社会中的不平等程度是否与算法输出中的偏见模式相关；如果相关，接触此类输出是否会影响人类决策者，使其按照这些偏见行事。
首先，他们参考了《全球性别差距指数》（GGGI），该指数对150多个国家的性别不平等状况进行了排名。GGGI衡量了153个国家在经济参与和机会、受教育程度、健康与生存以及政治赋权方面的性别不平等程度，从而为每个国家提供社会层面的性别不平等评分。
接下来，为评估搜索结果（即算法输出）中可能存在的性别偏见，他们考察了本应同等可能指代男性或女性的词语，例如“人”“学生”或“人类”，是否更常被理解为男性。他们在37个国家使用当地主要语言，通过谷歌图片搜索查询“人”一词。结果显示，在性别不平等程度较高的国家，这些搜索返回的男性图片比例更高，表明算法中的性别偏见与社会性别不平等相呼应。
三个月后，研究人员以52个国家为样本重复了这项研究，其中31个国家与首次研究相同。结果与初次研究一致，再次证实社会层面的性别差距会反映在算法输出（即互联网搜索）中。
随后，弗拉斯恰努和阿莫迪奥试图确定，接触此类算法输出——即搜索引擎结果——是否会以符合既有社会不平等的方式，塑造人们的认知和决策。
为此，他们开展了一系列实验，共有近400名美国女性和男性参与。
在这些实验中，参与者被告知，他们看到的是谷歌图片搜索中四种可能不熟悉的职业的结果：烛台制造商、布商、假发匠和宝石雕刻师。每种职业图片集中的性别构成，均根据上述52国研究进行选取，模拟全球性别不平等指数较高国家（匈牙利或土耳其的男性约占90%，女性约占10%）以及指数较低国家（冰岛或芬兰的男女各约占50%）中，搜索关键词“人”所得的谷歌图片搜索结果。这使研究人员能够模拟不同国家的互联网搜索结果。
在查看搜索结果之前，参与者先对每种职业的典型性作出判断（例如：“假发匠更可能是男性还是女性？”），以此作为衡量其认知的基线。无论男女，参与者都认为这些职业的从业者更可能是男性而非女性。
然而，在查看图片搜索结果后再次回答相同问题时，低不平等条件下的参与者相较于基线判断，扭转了原先偏向男性的职业原型认知。相比之下，高不平等条件下的参与者仍保持着偏向男性的认知，从而强化了他们对这些职业原型的印象。
随后，研究人员评估了互联网搜索带来的偏见可能如何影响招聘决策。为此，他们请参与者判断各职业中男性或女性被录用的可能性（“哪类人最有可能被聘为假发匠？”）；当参与者看到两名求职者（一名女性、一名男性）的图片，并被要求为该职业岗位作出自己的招聘选择时，他们也需作出决定（例如：“从这些申请者中选一位，聘为假发匠。”）。
与其他实验结果一致，与接触高不平等条件下的图片集相比，接触低不平等条件下的图片会使参与者对某一职业中男性与女性的受聘倾向作出更平等的判断，也更有可能选择女性求职者。
弗拉斯恰努和阿莫迪奥写道：“这些结果表明，社会、人工智能和用户之间存在偏见传播的循环。”他们还指出，“研究发现表明，社会层面的不平等会体现在互联网搜索算法中，而接触这种算法输出，会导致人类用户以强化社会不平等的方式思考并可能采取行动。”
