新一代自主人工智能系统，包括无人机、自动驾驶汽车和人形机器人，能够感知世界、做出决策并采取行动。
这正在打破软件风险与物理风险之间、网络安全与安全之间的传统界限。
网络安全和物理自主人工智能领域正在融合，因此为这项技术建立正确的治理基础非常重要。
人工智能（AI）在其发展历程的大部分时间里都存在于屏幕之内。它进行推荐、预测、翻译和生成。它的错误也屡见不鲜。 昂贵， 有时 严肃的但它们主要仍局限于数字领域。
这种情况正在改变。
新一代系统正在将人工智能带入物理世界。除了处理信息外，它们还能感知世界、做出决策并在世界中采取行动。
人形机器人、自动驾驶汽车和无人机是目前正从试点阶段走向部署阶段的三个典型案例。随着它们的部署，曾经看似清晰的界限——例如软件风险与物理风险之间、网络安全与安全之间的界限——正在逐渐消融。
对于物理自主人工智能而言，决定性的转变在于感知、决策和执行的融合——执行指的是将人工智能模型发出的数字决策或信号转化为物理或数字行为。这使得自主性具有社会价值。但这也意味着，在人类来得及注意到、理解和干预之前，错误、攻击或目标设定不明确等情况可能会蔓延到物理世界。
因此，随着网络安全和物理自主人工智能领域的融合，现在是时候为管理这一新一代系统奠定正确的基础了。
具身人工智能：使用人形机器人
人形机器人不再是科幻小说里的情节。能够在非结构化环境中执行物理任务（例如拣货、组装、搬运、导航）的系统正在进入物流仓库或在工厂车间工作，在早期试点项目中，它们也出现在护理机构中。
在宝马集团斯帕坦堡工厂， 图 02 人形机器人 已在真实的生产环境中进行了测试，测试内容包括涉及钣金零件的高强度体力劳动。当具身人工智能以这种方式从演示阶段过渡到实际操作阶段时，其价值不仅取决于智能本身，还取决于自主系统能否在实际工作环境中安全、可靠且负责地运行。
然而，随着人形机器人能力的提升，它们带来的影响也日益显著。能够搬运病人或操作机器的机器人会带来一系列新的安全风险，这些风险远不止软件漏洞或缺陷那么简单。
在人形机器人大规模应用于受控环境之外之前，政府和企业需要更清晰的测试、认证和问责框架。
自动驾驶汽车：实际部署，新的依赖关系
在这一代人工智能系统中，自动驾驶道路运输是商业化程度最高的领域。自动驾驶出租车服务已在多个城市投入运营，而自动驾驶卡车也正在部分高速公路上进行测试。其近期潜在价值包括：提高特定路线类型的安全记录、降低长途货运成本以及延长运营时间。
Waymo 就是最明显的例子之一 从试验过渡到服务 在这个领域，其无人驾驶网约车业务已从早期与 Uber 在凤凰城和旧金山的合作扩展到美国多个市场。
但大规模部署会产生以前不存在的依赖关系。自动驾驶汽车依赖于持续连接、高清地图、远程监控基础设施和空中软件更新——而每一项都可能出现故障或干扰。此外，自动驾驶汽车和人类驾驶车辆共享道路的混合交通环境中的协调风险也仍然知之甚少。
构建具有弹性和安全性的AI基础设施对于应对这种情况至关重要。
无人机：快速扩张，治理滞后
无人飞行系统，即无人机，已经在物流配送、农业、巡检和应急服务等领域大规模投入使用。在冲突地区和边境地区，军用和商用无人机已经证明，曾经受到严格管制的空域，如今已向包括非国家行为体在内的更广泛的参与者开放。
平民方面也有积极的案例。在卢旺达，无人机运送血液制品已经取得了成功。 缩短交货时间 与预计的道路运输相比，减少医疗机构中的产品过期时间。
此处的治理挑战十分严峻。空域管理框架并非为大量自主飞行器同时运行而设计。而实现精准农业的技术同样也能用于监视或定向干扰。无人机系统的干扰、欺骗和劫持已从理论上的担忧演变为有据可查的事件。
安全保障不再是相互独立的。
这三个应用案例的发展速度各不相同，涉及的行业、监管机构和风险状况也各不相同。但它们都提出了一系列共同的问题，这些问题无论是网络安全领域还是自主人工智能系统领域都无法单独解答。
一旦人工智能系统能够在物理世界中行动，网络攻击就可以直接转化为物理伤害——例如车辆被入侵、无人机被操控、机器人超出安全区域运行。
必须将安全性和保障性融入到自主人工智能系统的设计、标准、采购和管理中。
在扩展自主人工智能规模之前应该问哪些问题
对于企业领导者而言，首要问题是自主性的边界是否定义得足够清晰。对于自主物理系统而言，安全不仅意味着组件按设计运行，还意味着了解系统在哪些情况下不属于设计运行范围。
其次，当系统变得更加自主时，人类的责任究竟在哪里？在物理人工智能领域，仅仅说人“始终在掌控之中”是不够的。领导者需要扪心自问，当自主系统达到极限时，这个人是否有足够的时间、信息、权限和技能进行干预。
第三，在对抗条件下，安全性如何保障？安全保障必须仅基于正常运行情况，并且还要涵盖自主人工智能系统在遭受攻击、混乱或失去连接时如何发生故障、恢复和报告。
回答这些问题应该有助于领导者制定切实可行的治理准则，以扩大自主人工智能的规模。
现在该怎么办
这些技术所能带来的价值是实实在在的，推动其部署的竞争压力也不会消失。准备工作必须与部署速度保持同步。
对于各国政府而言，这意味着要更新监管框架，这些框架是为车辆有驾驶员、空域内有有限的自主乘员、物理系统没有网络连接的世界而设计的。
对于企业而言，这意味着要将网络安全视为任何能够在物理世界中运行的系统的核心工程要求，而不是作为最后添加的合规层。
对于国际机构而言，这意味着在目前各自独立运作的安全监管机构、网络安全机构和标准制定机构之间建立联系。
自主人工智能系统已经进入现实世界。在这些系统深入融入关键基础设施和日常生活之前，我们必须确保一切条件都已具备。
