你准备好信任自动驾驶汽车了吗?这可能是决定性因素

An onboard display between speed meters shows a right turn collision caution as a staff member of Toyota Motor Corp drives its latest model of Toyota Crown equipped with the "intelligent transportation system" (ITS) technology, which allows vehicle-to-infrastructure communication to alert drivers of dangers, during the Toyota Advanced Technologies media preview in Tokyo, Japan, October 8, 2015. Toyota Motor Corp said it would aim to bring to market cars that can autonomously change lanes, merge with traffic, and overtake other vehicles on highways by around 2020 as it aims to catch up in the nascent field of self-driving cars. REUTERS/Yuya Shino - GF10000236544
Trust is a huge part of the 'ethics and impacts of technology' debate.Image: REUTERS/Yuya Shino
本内容由人工智能自动翻译。

“我们的发现是,解释有助于赢得人们的信任,但前提是必须在汽车采取行动之前给出解释,”密歇根大学信息学院副教授莱昂内尔·罗伯特说。“解释本身未必是好事,事后再作解释似乎也起不了多大作用。”

罗伯茨举例说,汽车的智能系统可能会发现前方发生事故,导致交通中断。汽车可以不作任何解释便调整行驶;改走其他路线,之后再解释;提前告知乘客接下来要做什么;或者询问乘客是否希望它从下一个可用出口驶离。

他说,如果汽车在采取行动前作出解释,人们表示会更信任自动化系统。

“人们基于预期建立信任,”罗伯特说。“比如,你说今天下午2点来,我就相信你会在2点来。如果你2点没来,我就会想:‘哦,我不能信任这个人。’”

“要减轻信任流失,一种办法是说:‘我没能在2点来,因为……’更好的做法是打电话告诉我:‘出了点事,我会晚些到,但已经在路上了。’这不仅是减少我对你失去信任的好办法,也可能增加我对你的信任。”

“机器也是如此。我们对机器应该如何行动抱有预期;当它们的表现不符合预期时,我们就会失去对它们的信任。”

此外,这项新研究发现,汽车提前向乘客作出解释,并未显著降低他们的焦虑或心理负荷。罗伯茨说,这令人意外,因为信任通常会带来平静感,而这本应意味着焦虑减轻。

研究人员在密歇根大学交通研究所的实验室中,通过模拟城市、高速公路和乡村道路驾驶开展了这项研究。研究共有32名参与者,其中11名为女性。体验车辆驾驶后,参与者填写问卷,评估对自动化系统的信任、焦虑、工作负荷以及对自动驾驶汽车的偏好。

罗伯茨说,未来自动驾驶汽车能否通过提前解释来建立信任,将取决于其对道路和交通状况的智能判断能力能否提升。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。