人工智能可能很快就能在飞行中做出更多决定，这引发了一个根本性问题：机器应该拥有多大的权力？
先进的空中交通需要明确的规则，规定谁受益、谁承担风险以及当自动化决策造成伤害时谁应承担责任。
航空业的下一阶段必须超越对智能机器的认证，还要明确这些系统运行的权限。
空中出租车可能是首批无需飞行员在机上做出或监督所有操作决策的客运飞机之一。但即使这种先进的空中交通工具能够计算航线，如果空中情况发生变化，它们又如何有权选择新的航线呢？
航空业长期以来一直认为，重要决策由人做出，机器辅助执行。而美国联邦航空管理局（FAA）将先进空中交通管理（AAM）描述为…… 高度自动化的电动汽车 具备垂直起降能力，这种假设正在发生改变。
当然，现代飞机已经依赖于自动化系统，但专为先进空中交通而设计的下一代无人机和电动垂直起降（eVTOL）飞机更进一步。它们可以利用软件来解读各种状况、识别风险并做出决策。
尽管飞机作为一台独立的机器运行，但航空业本身却是一个系统。试想一下，一架自动驾驶空中出租车在人口稠密的城市上空飞行时，突然遭遇雷暴天气，无法按计划航线飞行。如果通信中断，另一架飞机也进入了同一航线，该怎么办？谁有权决定飞机下一步的行动——是机载人工智能、远程操作员还是空中交通管制？
航空业正在学习如何认证智能机器，但尚未决定赋予它们多大的权限。当人工智能（AI）航空系统必须在几秒钟内计算出应对空中变化情况的几种可能方案时，谁来决定“最安全”的含义？
人工智能在航空领域的应用：“人机协同”
随着先进空中交通技术从概念阶段进入监管准备阶段，这个问题变得越来越紧迫。
2024年10月，美国联邦航空管理局发布了一项 最终规则 该公司致力于研发动力升力先导飞行器（能够垂直起降，然后像飞机一样向前飞行的飞行器）。此外，该公司还选定了八家合作伙伴。 eVTOL集成试点项目该机构正在利用人机交互模拟来研究电动垂直起降飞机如何与传统飞机共享空域和机场设施。
航空监管长期以来都是围绕人的角色构建的：机长、人工智能系统操作员、空中交通管制员、飞机制造商和监管机构。人工智能的出现使这种结构变得复杂，因为它并非总是简单地执行预设指令——如果飞行途中情况发生变化，它可能需要评估各种风险，并选择一种行动方案。
为了应对这一转变，航空业需要的不仅仅是测试人工智能系统在技术上是否可行，还需要关注以下五个治理条件：
权限是指系统在法律和操作上是否被允许做出特定决定。
保证是指考察能够支持对公司在特定领域内表现的信心的证据。
可审计性要求判断决策、决策依据和任何交接过程是否可以在日后被还原。
适应性探讨的是，当天气、数据质量、软件行为或服务可用性发生变化时，原始许可是否仍然有效。
可问责性确保当人工智能航空系统出现异常行为时，个人或组织能够进行解释、纠正和回应。
这是一个拟议的治理框架，而非现有的国际规则手册。这些层级揭示了一个关键区别：一个系统可能在未获得授权的情况下做出决策，而一个人可能在形式上负有责任，但却缺乏控制结果所需的时间、信息或技术手段。
能够做出决定并不等同于有权做出决定。
这种区别至关重要，因为人工智能系统的决策逻辑反映了开发者、制造商、运营商和监管机构的选择。了解谁定义了系统的优先级、谁批准了这些优先级以及谁有权更改这些优先级非常重要。指定人员需要具备影响人工智能系统决策过程结果所需的信息、能力、时间和技术手段。
人工智能决策逻辑的治理
当然，并非所有人工智能决策都需要人工审批。那样做就违背了自动化的初衷，并可能造成安全隐患。监管机构和运营方应该明确不同级别的授权，涵盖可以自动化的决策、需要人工确认的决策以及任何可以自主做出并在事后进行复核的紧急决策。
这意味着人工智能航空系统应记录重要的飞行决策，例如接收到的信息、考虑过的备选方案以及选择特定行动方案的原因。运营商、机载系统和数字服务之间的交接应被视为一个受控事件，而非一个隐形的技术过渡。
这种问责必须贯穿整个决策链，而不仅仅局限于驾驶舱内。这条链可能包括定义系统目标的设计师、集成系统的制造商、部署系统的运营商、批准运行的监管机构以及本应介入的人工监督员。算法的存在不应造成责任缺失。
国际协调也至关重要。飞机、运营商、软件和数据越来越多地跨境流动，而航空安全则依赖于共同的标准。国际民用航空组织（ICAO）已经认识到这一点。 创新需要 及时有效的全球政策和标准，以及各国、产业界和学术界之间的合作。 全球空中导航计划 为协调全球、区域和国家层面的方法提供了一个模型。
人工智能时代的航空业
因此，航空业的下一阶段不应仅仅局限于对智能机器的认证，还应明确其运行的权限。监管机构应明确哪些决策可以委托他人执行。人工智能航空系统运营商应维护可核查的人工责任链。制造商应确保与人工智能相关的重大决策可追溯且可审查。
这不仅仅是航空领域的问题。整个社会——包括所有受人工智能航空影响的人，例如乘客、航空从业人员以及居住在航线下的居民——都应该决定谁受益、谁承担风险，以及如果自动化决策造成损害，谁必须承担责任。随着软件从为人类提供建议发展到对物理世界行使授权，航空业或许可以成为检验社会如何监管人工智能的早期试验场。
航空业的未来不仅取决于机器能做出什么决定，还取决于谁赋予它们这种权力——以及谁要对后果负责。
