为何科技治理需要信任

The first tragedy involving a self-driving car has shaken trust in high tech.Image: REUTERS/Hannibal Hanschke
本内容由人工智能自动翻译。

3月18日星期日,在美国亚利桑那州坦佩市,首名行人被一辆自动驾驶汽车撞死。

此次事故的具体情况促使多数正在测试自动驾驶汽车的国家迅速重新评估这些汽车的安全性,许多测试已被暂停。该事件动摇了公众对自动驾驶汽车及其安全性的信任,并引发了对该技术及其宣称效果的更严格审视。

不同寻常的是,在此次事件中,受到最多关注的是该技术治理的过程与设计。尤其是美国各州在促进技术创新与保障公共安全之间寻求适当平衡的做法,使治理的作用以及其中的优先事项与权衡取舍成为焦点。

美国一座城市的治理决定在全球引发的连锁反应表明,一旦治理突然被视为不可信,其影响可能是重大的负面影响,不仅波及个人,还会波及整个行业,甚至整项技术。

事故发生后,亚利桑那州暂停了相关公司优步(Uber)的汽车测试;与此同时,丰田等其他制造商也自愿暂停了其自动驾驶汽车的道路试验。

汽车制造商宝马的总工程师认为,目前没有任何汽车制造商或科技公司所拥有的传感器和计算机系统足够先进,能够确保此类城市环境中的充分安全。他由此质疑美国的技术发展速度,并认为欧洲的做法更为安全、也不那么轻率。

该事件也激起了公众舆论,两极分化迅速形成。一批专注于公路与汽车安全的机构呼吁暂停相关活动,以限制企业在公共道路上进行“以不知情的家庭充当碰撞测试假人的测试”的能力。;而另一些人则指出,理论上,自动驾驶汽车有望挽救因驾驶员失误而丧生的大量生命,并以此为由主张放宽监管力度——尤其是在目前正在审议的美国联邦监管方面。

随着有关治理权衡取舍与设计缺陷的信息日益清晰,各方立场趋于强硬,治理体制的可信度很可能成为这场争论的决定性因素。亚利桑那州及其他地区的结果,很可能对全球自动驾驶汽车的有效部署产生重要影响。

信任通常并非治理设计的核心概念。我们建议应当将其置于核心地位。如果赢得信任的理念以及对可信度的关注成为治理设计工作和程序的一部分,这是否会对其设计与成效产生影响?

治理是否会因此更值得我们信任,并且是否会真正赢得政策制定者和整个社会更高的信任?

我们将在一个新项目中探讨这些重要问题,该项目旨在制定一系列技术治理信任原则。这些原则将有助于支持制定治理机制的人员,以及参与其设计与实施的利益相关方。该项目将通过考虑赢得或失去信任的潜在机制,使人们更好地理解这一关注点未来如何为治理设计提供参考。

这从根本上并非关于如何促进或阻碍技术进入市场,而是关于设计能够提高赢得政治与社会信任之可能性的治理。无论例如在此类治理之下的风险评估与风险管理决策最终是导致市场准入不受限制、市场限制,还是甚至禁止某项技术或其相应产品,这一点都成立。

尽管自动驾驶汽车目前是媒体关注的焦点,但从转基因生物到食品辐照、从纳米技术到人工智能,技术引入的历史表明,对技术治理的信任至关重要。更深入理解赢得和失去这种信任的机制,对所有参与治理设计的利益相关方——从监管机构到政治家、非政府组织、产业界和科学界——以及直接和间接地对整个社会,都具有至关重要的价值。

如需更多信息,请联系:Hilary Sutcliffe - hilary@societyinside.com - +44 (0) 7799 625 064;Conrad von Kameke - conrad@bioinnovatorseurope.org - +49 151 254 96 239

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。