从历史上看，人类需要很长时间才能信任新一轮的机器技术。
在涉及人身伤害的情境中，人们往往认为机器比执行相同行为的人类更具危害性。
重要的是，我们应将对机器应如何行事的关注，与对我们如何评判机器的理解结合起来。
最近，投票机一直饱受争议。然而，人们对机器的抵触并非新鲜事。
大约500年前，印刷术曾被妖魔化为一种撒旦的工具。如今的同类技术——人工智能——则常被批评为失业和偏见的根源。
但每一分愤怒都有道理吗？
研究人们对机器反应的学者们，正开始弄清楚我们何时以及为何对人类和机器做出不同的评判。
设想一辆汽车为避开倒下的树木而急转方向，却因此撞倒了一名行人。如果人们认为这一行为是自动驾驶汽车所为，而非人类驾驶员所为，他们的评判会有所不同吗？
在我的最新著作《人类如何评判机器》中，《人类如何评判机器》中，我与合著者请6000多名美国人，采用临床试验的方式，对与此类似的情境做出反应。
我们的受试者中，一半人只看到涉及人类行为的情境，另一半人则只评估涉及机器行为的情境。这使我们得以探究人们何时以及为何对人类和机器做出不同的评判。
坏机器，好人类
在上述车祸案例中，人们认为自动驾驶汽车的行为更具危害性且更不道德，尽管人类所做的行为完全相同。
在另一个情境中，我们考察了一个针对海啸的应急响应系统。有人被告知该城镇已成功疏散，也有人被告知疏散行动失败。
我们的结果显示，在此情境中，机器同样处于不利地位。事实上，如果救援行动失败，人们对机器行为的评价是负面的，而对人类行为的评价则是正面的。
数据显示，人们认为机器的行为明显更具危害性、道德性更低，并且还表示希望雇用人类，而非机器。
机器总是抽到最短的签吗？
长期以来，学者们一直知道人们对算法存在抵触。即便算法的预测能力优于人类，人们往往仍会选择人类预测者。这种现象被称为算法厌恶，而在一个预测准确性的微小差异都可能举足轻重的世界里，它可能代价高昂。
在一篇近期论文中，Berkeley Dietvorst、Joseph Simmons 和 Cade Massey 通过五项实验探讨了算法厌恶，实验中个体可以将金钱奖励与自己、他人或模型所做的预测挂钩。
虽然机器有必要保持透明，但还必须认识到，透明度最终可能使人们对机器产生偏见。
César A. Hidalgo
在一些实验中，人们了解预测的总体表现，而且这些表现往往对机器有利。在另一些实验中，人们还能够观察到实际的预测结果。
结论是：当人们目睹算法出错时，他们往往更倾向于回避算法。也就是说，当人们在总体结果之外还看到了错误时，他们对机器的偏好会下降。
在一个人们普遍将透明度视为合乎伦理的人工智能之基本支柱的世界里，这一发现颇为耐人寻味。
虽然机器有必要保持透明，但还必须认识到，透明度最终可能使人们对机器产生偏见。如果我们未能考虑到这一细微之处，透明度可能会促使我们在机器实际上是改进来源时拒绝使用它们。
不公平的机器
但在某些情况下，人们对机器的评分略高于人类。这些道德情境涉及对公平和忠诚的违背，而当人类实施这些行为时，人们还会普遍认为其具有高度的主观故意性。
设想一台机器人与一名人类同为某唱片公司撰写歌词。假设一项调查发现，这些歌词剽窃了知名度较低的艺术家的作品。当我们向人们呈现这一情境时，我们发现他们认为人类的行为比机器的行为更具危害性，道德性也更低。
在涉及公平性的其他情境中，例如有偏见的人力资源筛选和大学录取系统，我们也得到了类似的结果。
人们当然不喜欢有偏见的人类或机器，但当我们通过实验检验人们对此的反对态度时，人们认为人类的偏见比机器的偏见危害性略高，道德性也略低。
我们正从对机器行为强加规范的时代，转向发现某些规律的时代。这些规律并不告诉我们机器应如何行事，而是告诉我们如何评判它们。而第一条规律既有力又简单：人们以意图评判人类，以结果评判机器。
那么，我们能信任机器吗？我们究竟想不想这样做？对于这些大胆的问题，或许无法给出一概而论的答案，但当前的研究正开始为我们提供一些指引。
César A. Hidalgo 是《人类如何评判机器》的作者，这是麻省理工学院出版社出版的一部经过同行评审的著作，可在以下网址免费阅读：judgingmachines.com。他在图卢兹大学人工与自然智能研究所（ANITI）担任讲席教授，并受聘于曼彻斯特大学和哈佛大学。
