通用人工智能将带来高度自主的系统，并将重塑网络安全及我们面临的威胁格局。
应对网络威胁将涉及使用相同工具回应恶意攻击行动；然而，成败取决于攻击方还是防御方能更快地采用这些工具。
要确保人工智能的安全应用，人工智能生态系统中的所有利益相关方（包括政府、产业界、学术界和专家）都需要采取有意识、主动且协调一致的行动。
通用人工智能（AGI）指的是高度自主的人工智能（AI）系统，能够像人类一样完成大多数认知任务。与当今通常为聊天机器人或图像识别等特定任务而构建的人工智能不同，通用人工智能将能够跨多个领域展现智力推理、学习和适应能力。
与只有在收到指令时才作出回应的现有人工智能工具不同，我们预计通用人工智能系统能够在无人直接监督的情况下主动发起行动、追求目标并持续运行（但不应与尚未到来的人工超级智能相混淆，后者的机器可能完成远超人类水平的任何认知工作）。
然而，通用人工智能的定义仍处于变动之中，而非已经确定，学术界和产业界对其有不同的解读。可以确定的是，一旦它出现，将重塑网络安全及我们面临的威胁格局。
不对等的较量
人们越来越关注这项技术与网络安全的交汇。在数字领域，攻击方天然占有优势：它们只需成功一次，而防御方则必须持续守护每一个潜在的薄弱环节。先进人工智能模型已经放大了这种不对称性。通用人工智能将进一步加剧这些不对称，除非政策制定者、产业界和研究人员果断采取行动。
如果说当今的前沿人工智能 已经给防御方带来挑战，那么通用人工智能则会进一步抬高风险。安全运营将需要应对持续性的攻击行动，而不仅仅是孤立事件。
对手行动更快，并且可以自由地尝试新工具，而防御方则常常因官僚主义、遗留流程和风险规避而放慢脚步。
过去，各组织所担心的是单一事件，例如一封钓鱼邮件或一段恶意代码。通用人工智能则可能使攻击者能够发动由机器智能驱动的攻击行动，而非由键盘后的人类攻击者操控；这种机器智能能够实时学习并调整。
试想这样一种情形：数据泄露恰好与虚假信息宣传活动以及供应链中断同时发生。这可能对网络、物理和信息领域中的领导者与基础设施形成协同施压。应对此类威胁需要在这些领域之间，对威胁、情报和补救措施形成更加综合的视角。
同样令人担忧的是，通用人工智能如何缩短攻击的各个阶段。曾经需要数周展开的网络行动，可能会在数小时内完成。通用人工智能系统可以将攻击的不同阶段串联起来（例如侦察、漏洞发现和漏洞利用开发），并运行数以千计的低成本尝试，直至出现有效结果。
一把双刃剑
然而，通用人工智能并非注定只会成为攻击者的工具。研究表明，人工智能系统在打补丁等防御性任务上往往优于漏洞利用开发。如果运用得当，通用人工智能可以成为强大的力量倍增器，帮助超负荷工作的安全团队减轻例行的威胁分诊和修复工作。
原本需要数月的补丁修复周期可能缩短至数天，从而压缩攻击者可利用的时间窗口。通用人工智能还能推动网络安全从被动救火转向主动韧性建设。系统可以被打造得更具韧性：通过持续扫描错误配置、模拟修复方案，并在关键风险暴露被利用之前将其标记出来。
通过接管常规任务并为决策提供支持，通用人工智能可以让人类分析师腾出更多精力，专注于复杂调查和战略性挑战。
然而，真正的挑战不在于通用人工智能能否更好地服务于防御能力，而在于与攻击方相比，防御方能以多快的速度采用它。对手行动更快，并且可以自由地尝试新工具，而防御方则常常因官僚主义、遗留流程和风险规避而放慢脚步。
这种速度差距正在加剧攻防不对称。为扭转这一局面，防御方必须加快人工智能的应用，将其融入实际工作，否则就将主动权拱手让给攻击者。
更广泛的国际背景
目前，人工智能已成为关键基础设施、经济体系和国家安全的核心。它既是国家和国际发展的手段，也是其目标，全球人工智能格局有望重塑经济市场和安全范式。
然而，无法获得人工智能的小国和发展中国家，已经错失了人工智能带来的效率提升、创新和经济增长红利。通用人工智能的出现很可能进一步扩大这一差距，使它们面临被落下的风险。
因此，正如《联合国全球数字契约》所概述的那样，我们必须持续弥合各类数字鸿沟，推动为所有人营造公平的数字环境。
行动呼吁
随着通用人工智能融入我们的数字基础设施，它不仅将塑造威胁格局，还将也将成为其中的直接攻击目标。
攻陷人工智能系统的机会将持续增多；因此，各利益相关方应考虑如何保障人工智能技术栈（数据、模型、基础设施、应用和治理），并采取全生命周期的方法，保障人工智能系统的安全，从现在开始、在我们实现通用人工智能全面发展之前，并为在我们共同的数字基础设施中使用人工智能做好准备。
为确保人工智能得到安全采用和使用，人工智能生态系统中的所有利益相关方，包括政府、产业界、学术界和专家，都需要采取有意识、主动且协调一致的行动。
首先，拥有充分的对通用人工智能技术层面的理解，对政策制定者和网络安全专业人员而言已不再是可选项，而是一项必需。政策制定者需要理解人工智能和通用人工智能的技术细节，以便制定能够在创新与安全可靠应用之间取得平衡的框架和方法。
对于小国和发展中国家而言，能力建设可能是弥补这一技能差距的途径之一。
摆在我们面前的任务清晰而紧迫：将人工智能安全提升为全球共同优先事项，将其融入治理和设计之中，并携手果断、尽早行动，使通用人工智能增强而非削弱我们的数字韧性。
其次，需要共同努力，提高人工智能的安全基线。通用人工智能的自主性和适应性将要求采用全新的安全范式和方法。更清晰的指导原则、统一的标准以及切实可行的工具，可以帮助各组织在采用前沿人工智能时作出明智的选择。
例如，新加坡网络安全局已制定了指南并发布了配套指南，内容涉及在人工智能系统整个生命周期中保障其安全。随着人工智能系统的互联程度不断提高，安全标准将成为实现安全、无缝互操作的通用语言。
归根结底，国际与产业界合作对于缓解与通用人工智能相关的安全风险至关重要。鉴于网络空间的跨境性质，我们的安全能力只取决于最薄弱的环节。
国际社会必须共同努力，在拥抱新兴技术的同时，致力于构建开放、安全、稳定、可及、和平且可互操作的网络空间。
世界经济论坛等国际平台，对于引起各方对此类问题的关注、集思广益寻求解决方案以及鼓励国际合作，发挥着关键作用。
未来之路
通用人工智能不会仅仅加速当今的威胁；它还将重塑攻击行动的策划、实施和防御方式。借助正确的投入和协调，通用人工智能可以得到保障并被利用为一种防御性均衡力量，而非攻击者的力量倍增器。然而，只有当我们积极采用它，并且比攻击者更快地采用，这一点才能实现。
对政策制定者而言，这意味着从宏观原则转向具体行动：提升技术素养，并制定能够在创新与韧性之间取得平衡的框架。
对产业界和技术领导者而言，这意味着立即强化人工智能技术栈，并将策略、测试和基准落到实处，以确保人工智能系统的安全可靠应用，并跟上前沿人工智能的发展步伐。
在国际层面，则需要加强国际合作，确保没有任何一方被落下。
摆在我们面前的任务清晰而紧迫：将人工智能安全提升为全球共同优先事项，将其融入治理和设计之中，并携手果断、尽早行动，使通用人工智能增强而非削弱我们的数字韧性。
