“嘿,Siri,你有性别歧视”——联合国报告揭示技术中的性别偏见

Luke Peters demonstrates Siri, an application which uses voice recognition and detection on the iPhone 4S, outside the Apple store in Covent Garden, London October 14, 2011. REUTERS/Suzanne Plunkett (BRITAIN - Tags: BUSINESS SOCIETY SCIENCE TECHNOLOGY TELECOMS) - LM1E7AE0TEE01
Many believe that Siri is submissive in the face of gender abuse.Image: REUTERS/Suzanne Plunkett
本内容由人工智能自动翻译。

联合国报告指出,以女性声音回应、被塑造成女性助手形象的热门数字助理,正在强化性别歧视的刻板印象。

报告称,绝大多数此类助理,例如苹果的 Siri、亚马逊的 Alexa 和微软的 Cortana,从名字、声音到个性,都被设计成女性形象。

联合国教科文组织的研究人员表示,这些助理被设定为顺从、逆来顺受,甚至会礼貌地回应侮辱,因此强化了性别偏见,并使性别歧视骚扰常态化。

研究以一个问题为例指出,Siri 过去被设定为:当用户称她为“婊子”时,她会回答“如果我能脸红的话,现在一定脸红了”。

报告称:“面对基于性别的辱骂时,Siri 表现出的顺从,以及许多其他被塑造成年轻女性形象的数字助理所展现的逆来顺受,生动地说明了技术产品中编码的性别偏见。”

苹果、亚马逊和微软均未能立即联系上以征求评论。

微软一位发言人此前表示,公司研究了 Cortana 的语音选项,发现“女性声音最能支持我们打造数字助理的目标”。

报告称,语音助手迅速融入许多人的日常生活,如今约占互联网搜索总量的五分之一;报告认为,它们可能产生重大文化影响。

他们补充说,随着语音技术覆盖全球更多社群,数字助理的女性化可能助长性别偏见,使其扎根并蔓延。

联合国教科文组织性别平等事务主任 Saniye Gulser Corat 表示:“世界需要密切关注人工智能技术如何、何时以及是否被赋予性别属性,至关重要的是,还要关注由谁赋予它们这种属性。”

报告呼吁企业采取行动,包括停止将数字助理默认设为女性形象,探索性别中立的选项,并对助理进行编程,以制止基于性别的侮辱和辱骂性语言。

今年早些时候,一个创意团队打造了首个性别中立的数字助理语音,试图避免强化性别歧视的刻板印象。

女性团体对联合国教科文组织的报告表示欢迎。女性权益组织 Womankind 的发言人 Maria Vlahakis 表示,报告让算法中的性别偏见“获得了急需的关注”。

她说:“这些算法延续了性别刻板印象、性别歧视和厌女行为,也反映出技术领域更广泛的结构性性别不平等。”

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。