如果由人工智能来治理世界，情况未必那么糟糕——它可以客观地就人类常常搞砸的那类事务做出决策人类常常搞砸的那类事务。但如果我们要把决策大权交给人工智能，它就必须是公平的。而迄今为止，它并不公平。用经过人工标注或筛选的数据集训练的人工智能，往往会习得那些人所持有的种族主义、性别歧视或其他偏执的偏见。
程序员们似乎正在逐步纠正这些偏见。但即便我们成功地使自身的偏见不再渗入代码，人工智能如今似乎也已能够独自形成偏见。
周三发表于《科学报告》（Scientific Reports）的一项新研究表明，一组人工智能智能体能够自主形成偏好，不仅偏爱与自身相似的其他智能体，还对与自身不同的智能体产生了主动偏见。事实上，科学家们得出结论：形成这类偏见所需的认知能力极少，这意味着此类偏见可能在各类代码中随处出现。
这些人工智能智能体被设定为可以向其他智能体捐赠虚拟货币，其目标是尽可能多地获得回报。本质上，它们必须决定分享多少，以及与哪些其他智能体分享。该实验的研究人员观察到两种趋势：人工智能智能体更倾向于向被标记为具有相似特征（以任意数值表示）的其他智能体捐赠，并对与自身不同的智能体表现出主动偏见。人工智能智能体似乎已经习得，向群内成员捐赠会带来更多回报，而向其他成员捐赠则会使自身主动遭受损失。
这是一种比现实世界中更为抽象的偏见形式，在现实世界中，算法被用于专门针对并压迫黑人。这些人工智能智能体并未像某些人那样，对某一特定少数群体产生特定的厌恶。相反，它们表现出的是一种针对模糊“他者”的偏见，即针对一切与自身不同的事物。诚然，这种偏见仅限于这一特定模拟环境。
但这项研究对现实世界的应用具有重大启示。如果放任不管，此类算法可能会导致更严重的制度化种族主义和性别歧视——在某些遥远的情形下，甚至可能引发针对人类整体的偏见——尽管我们已竭尽全力加以防范。
据论文所述，这一问题是可以修复的。例如，研究人员发现，可以通过强制人工智能智能体进行他们所称的“全局学习”，即与自身圈子之外的不同人工智能智能体互动，从而降低偏见水平。此外，当人工智能智能体群体中的特征总体上更为多样时，偏见水平也会下降，原因很简单：其内在多样性更高。研究人员将此与现实生活中让持有偏见的人接触其他观点的做法进行了类比。
论文原文如下：
这些因素在抽象意义上反映了社会的多元性，并受到个体之外的诸多问题影响，例如社会政策、政府、历史冲突、文化、宗教和媒体。
更广泛地说，这意味着我们绝对不能任由人工智能自行其是，并想当然地认为一切都会顺利。数学家汉娜·弗莱（Hannah Fry）在其即将出版的著作《你好，世界：算法时代的人类》（Hello World: Being Human in the Age of Algorithms）中（其节选内容已发表于《华尔街日报》上），敦促我们对塑造我们生活的算法保持更多批判与怀疑。正如这项研究所表明的，这一建议并非没有道理。
无论我们多么希望相信人工智能系统是客观、公正的机器，我们都必须承认，系统中可能始终存在故障。目前，这意味着我们需要密切关注这些算法，并时刻警惕自身。
