为什么机器人犯过几次错后,我们就难以再信任它们

A robot
Humans are becoming less forgiving of robots after multiple mistakesImage: PEXELS / Alex Knight
本内容由人工智能自动翻译。
  • 与人类同事类似,机器人也会犯错,从而辜负人类对它们的信任。

  • 一项新研究探讨了四种可能弥补信任损失所造成伤害的策略——道歉、否认、解释和承诺值得信赖。

  • 然而,结果显示,犯过三次错后,这些策略都无法完全修复人类对机器人的信任。

  • 研究人员表示,这意味着机器人没有机会从错误中学习,人类也可能因此错失机器人带来的潜在益处。

一项新研究显示,机器人多次犯错后,人们会更难原谅它们,而且信任很难恢复。

与人类同事类似,机器人也会犯错,从而辜负人类对它们的信任。犯错后,人们往往会觉得机器人不那么值得信赖,最终对它们的信任也会降低。

这项研究考察了四种可能修复并减轻以下负面影响的策略:信任违背这些信任修复策略包括:道歉、否认、解释和承诺值得信赖。

研究人员开展了一项实验,240名参与者与一名机器人同事合作完成任务,过程中机器人有时会犯错。机器人辜负参与者的信任后,会采取一种特定的修复策略。

结果表明,犯过三次错后,任何一种修复策略都无法完全恢复机器人的可信度。

“到第三次违背信任时,机器人用于彻底修复不信任的策略始终未能奏效,”该研究第一作者、密歇根大学信息学院研究员康纳·埃斯特伍德(Connor Esterwood)说。该研究发表于《人类行为中的计算机》。

埃斯特伍德及其合著者、信息学教授莱昂内尔·罗伯特(Lionel Robert)还指出,这项研究引入了关于原谅、遗忘、告知和误导的理论。

这项研究结果有两方面启示。埃斯特伍德表示,研究人员必须开发更有效的修复策略,帮助机器人在犯错后更好地重建信任。此外,机器人在尝试修复人类对它们的信任之前,需要确保自己已经掌握了一项新任务。

埃斯特伍德说:“否则,它们可能会以无法挽回的方式失去人类的信任。”

这些发现对人与人之间的信任修复有何启示?研究人员表示,道歉、否认、解释或承诺都无法彻底修复信任。

罗伯特说:“我们的研究结果表明,三次违背信任并尝试修复后,信任仍无法完全恢复,这印证了‘三振出局’这句俗语。这也表明,信任完全恢复可能存在某种限度。”

埃斯特伍德说,即使机器人犯错并据此调整后能够做得更好,它们也未必有机会展现改进。因此,人们会失去机器人带来的益处。

莱昂内尔指出,人们可能会设法绕开机器人或不使用它,从而降低自身表现。他说,这可能引发绩效问题,进而导致他们因绩效不佳和/或不遵守要求而被解雇。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。