为何汽车AI的信任度将决定未来出行的走向

undefined
本内容由人工智能自动翻译。
  • 技术发展的速度往往超过社会的接受能力,而汽车AI正处于这一转折点。

  • 我们已经拥有先进的汽车AI系统,但如何以社会信任并采纳的方式部署它们?

  • 全球领导者必须将数字信任列为优先事项,这是AI驱动的出行成为主流的前提。

技术发展的速度往往超过社会的接受能力。电力只有在赢得公众信任后才得以大规模普及;航空在乘客感到安全之前已在技术上可行;数字金融则是在安全性和透明度得到牢固确立之后才得以扩展。

如今,汽车AI正处于同样的转折点。

问题已不再是我们能否打造先进且智能的汽车AI系统——我们已经做到了。真正的问题在于,我们能否以社会信任并愿意采用的方式部署这些系统。

如今时机至关重要,因为采用与否将取决于信心,而非能力。

汽车AI的安全效益具有更广泛的社会影响

全球出行系统有望支持脱碳、缓解拥堵并提升道路安全。据世界卫生组织统计,每年有119万人死于道路交通事故。如果AI驱动的出行能够预防哪怕一小部分此类事故,其社会影响将十分重大。

然而,围绕汽车AI的数字信任差距依然很大。一项英国研究显示,只有六分之一的人表示,乘坐自动驾驶汽车时最有安全感,而接近三分之二的人表示,乘坐由人类驾驶的汽车时最有安全感。

如果我们现在不弥合这一信任差距,就可能在城市、监管机构和各行业都依赖更智能的出行来实现安全、可持续和高效目标之际,拖慢部署进程。

与过去不同,过去一次型式认证即可表明车辆“是安全的”,而AI驱动的出行需要一种不同的方法。信任无法一次认证定论,而必须持续监测并不断予以证明。

这一挑战可归结为三个核心问题。

1. 我们能否理解并解释系统的运行方式?

一个多世纪以来,车辆安全基于确定性的机械系统。故障是可以预测的,行为可以被建模、验证并认证。

AI改变了这一基础。如今的车辆依赖数据驱动的功能、神经网络、传感器融合和持续学习。这些系统的适应与演进方式,即便是专家也无法完全预见。

可解释性正在成为一项安全要求。为确保可靠性,传统汽车安全必须与以下领域融合:

  • AI透明度与模型可解释性

  • 网络安全

  • 功能安全

这种融合正被称为数字信任,即可靠地证明智能系统行为正确、安全且一致的能力。

在实践中,这要求从研发最早阶段起就应用ISO 21434、ISO 26262、ISO/SAE 8800和UNECE R155等标准。ISO 21434、ISO 26262、ISO/SAE 8800和UNECE R155。同时,还需要采用安全的硬件架构以实现长期防护,包括硬件安全模块和ARM TrustZone等技术。

这些要素构成了公众信心的基本保障。

2. 我们能否验证系统长期以来始终值得信赖?

在传统出行领域,验证是一次性事件:一次碰撞测试、一次型式认证或一次合规检查。但AI驱动的系统在部署后仍会通过空中升级、新增数据集、环境变化或供应商修改而不断演进。

这一转变要求持续保障,而非静态认证。

与此同时,车辆面临的网络安全风险也在增加。仅在2023年,欧洲网络与信息安全局(ENISA)就报告了超过200起汽车网络安全事件,且这一趋势还在加速。

为应对这一挑战,安全与安保评估必须覆盖整个供应链,包括电子控制单元、零部件、云服务和基础设施,涵盖原始设备制造商(OEM)、一级供应商和二级供应商。

ISO/SAE 8800等全生命周期监测框架是重要的一步:它们引入了运营安全生命周期,要求在系统演进过程中开展监测、风险管理和适应性调整。

汽车AI的信任度将取决于长期验证与持续监督。

3. 系统发生故障时,由谁负责?

责任正转向由开发者、集成商、基础设施运营商和监管机构组成的分布式生态系统。

随着AI驱动的功能承担更多决策职能,责任正从个人转向复杂的技术生态系统。

这引发了一些棘手的问题。责任应由谁承担:是OEM、软件提供商、零部件制造商、云运营商,还是各方共同承担?

对于不断演进的系统,传统测试无法回答这些问题。

监管机构已开始作出回应。欧盟AI法案以及日本的《道路安全与伦理规程》(RSEP)提出了算法透明度、人工监督和实时决策记录等要求。

这些机制确保AI的行为在整个生命周期内可解释、可追溯、可审计。

没有明确的责任界定,信任就无法规模化;而没有信任,自动驾驶出行也无法规模化。

数字信任为何是AI驱动出行未来的关键

我们正经历自马车向内燃机转变以来最大规模的出行变革,这一次是从机械控制转向智能决策。

塑造未来十年的问题不在于汽车AI是否有效,它已经有效。

问题在于社会是否会信任它。因此,产业界、政府和民间社会的决策者必须现在就将数字信任列为优先事项,这是AI驱动的出行成为主流的前提。

世界经济论坛如何推动可持续和包容性的出行系统?

世界经济论坛的未来出行塑造平台涵盖四大行业:航空航天与无人机;汽车与新型出行;航空旅行与旅游;以及供应链与运输。该平台旨在确保未来出行安全、清洁且具有包容性。

  • 通过清洁天空促进联盟,超过100家公司正携手推动全球航空业在2030年前使用10%的可持续航空燃料。10%的可持续航空燃料(至2030年)。

  • 论坛与联合国儿童基金会(UNICEF)合作,与领先的航运、航空和物流企业共同制定了一项宪章,以支持COVAX向弱势群体社区提供超过10亿剂新冠疫苗。

  • 零碳货运项目和P4G-零碳联盟已取得成果,展示了加快向零排放货运转型的理由、成本与机遇。

  • “天空医药”倡议正在印度偏远地区使用无人机运送疫苗使用无人机运送疫苗和药品,已成功完成300多次试运行。

  • 论坛的“实现真正零排放”倡议致力于借助电动和氢能飞行技术,加快零排放航空的部署与规模化应用。

  • 论坛与洛杉矶市、美国联邦航空管理局和NASA合作,制定了《城市天空原则》,以助力全球城市采纳城市空中交通。

  • 论坛主导制定了太空可持续性评级,旨在激励和推动更安全、更可持续的太空任务管理方式,并减少轨道上的碎片。

  • 循环汽车倡议正为汽车循环利用政策议程提供参考,该倡议获得了欧盟委员会和零排放汽车转型理事会成员国的认可,现受邀支持中国的政策路线图。

  • 印度行动网络正与政策制定者合作,推进电动汽车制造政策,推动零排放公路货运车辆的普及,并为转型提供资金支持。

  • 城市出行评分卡倡议——由论坛的全球新出行联盟牵头——正汇聚出行运营商与城市,以衡量向可持续城市出行系统转型的进展。

联系我们,了解如何参与的更多信息。

对话已超越对技术的乐观期待。它需要可靠性,需要透明度,需要问责制。

唯有如此,智能出行才能充分发挥其潜力。

在整个价值链中,独立第三方在建立这种信任方面发挥着关键作用,涵盖从AI验证和网络安全保障到功能安全评估及全生命周期监测等各个环节。

作为全球领先的独立测试、检验和认证机构之一,DEKRA通过提供独立保障和全生命周期监督来支持这一转型,从而实现大规模的负责任、安全且可信赖的部署。

创新构建能力,而信任则推动采纳。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。