一项新研究发现,AI聊天机器人偏向于表示增加而非减少的词语,这与长期存在的语言趋势一致。
研究人员表示,在“改进”语境中,与加法相关的词语比与减法相关的词语更为常见,且语义更为积极。
GPT-3在接受研究人员提问时表示:“给某物添加某物通常会使其变得更好。例如,如果你在咖啡里加糖,它可能会更好喝。”
一项新研究揭示,英语中存在一种语言偏见,使我们倾向于通过增加而非减少来“改进”事物,这种偏见非常普遍,甚至已根植于AI聊天机器人之中。
与“改进”相关的语言更倾向于与增加而非减少相关联。这可能导致我们做出使原本想要改善的事物变得过于复杂的决定。
该研究发表于《认知科学》(Cognitive Science),由来自伯明翰大学、格拉斯哥大学、波茨坦大学和诺森比亚大学的国际研究团队完成。
伯明翰大学认知语言学副教授博多·温特(Bodo Winter)博士表示:“我们的研究建立在现有研究的基础之上,这些研究表明,人们在寻求改进时,通常会增加一些东西。
“我们发现,同样的偏见深深根植于英语语言之中。例如,‘improve’(改进)一词在含义上更接近‘add’(添加)和‘increase’(增加)等词,而非‘subtract’(减去)和‘decrease’(减少)。因此,当会议上有人说“有人对我们如何改进这一点有什么想法吗?”时,这句话就已经隐含着一种通过增加而非减少来改进的诉求。”
研究还发现,其他表示变化的动词,如“change”(改变)、“modify”(修改)、“revise”(修订)或“enhance”(增强),也表现出类似的特点。如果不加以纠正这种语言上的加法偏见,它可能会使事情变得更糟,而非改进。例如,以增加而非减少的方式进行改进,可能会使官僚主义变得过度。
这种偏见也会反向发挥作用。在“改进”语境中,与加法相关的词语比与减法相关的词语更为常见,且语义更为积极,这意味着这种加法偏见存在于英语语言结构和使用的多个层面。
这种偏见已根深蒂固,甚至AI聊天机器人也内置了这种偏见。研究人员询问了ChatGPT的前身GPT-3对“add”(添加)一词的看法。它回答道:“‘add’是一个积极的词。给某物添加某物通常会使其变得更好。例如,如果你在咖啡里加糖,它可能会更好喝。如果你在生活中添加一位新朋友,你可能会更加快乐。”
温特博士总结道:“英语中积极的加法偏见是我们所有人都应当留意的问题。它可能影响我们的决定,使我们倾向于增加更多的层级、更多的级别、更多的事物,而事实上,我们或许反而能从删减或简化中获益。
“下一次在工作中或生活中被要求提出改进建议时,我们或许应该花一点时间,更加审慎地考虑我们的选择。”


