网络韧性始终是目标,前沿AI让它刻不容缓

Hands on a keyboard as AI-powered tools change the cyber landscape.
Frontier AI models can now discover and exploit vulnerabilities continuously and at scale.Image: Unsplash
本内容由人工智能自动翻译。
  • 前沿人工智能模型能够持续、大规模地发现并利用漏洞,使网络风险从偶发且可控转变为持续存在并不断扩大。

  • 攻击时间线正在急剧缩短,复杂的攻击能力也正变得广泛可得。

  • 为确保网络韧性,组织需要具备在事件发生时进行检测、遏制并持续运营的能力。

自Anthropic推出的新型人工智能(AI)模型Mythos改变了讨论格局以来,已过去数周。该公司称,该工具能够执行最先进的网络安全任务,由此引发了市场波动、供应商回应,以及一系列关于所发生之事及其重要性的分析。

此类分析多聚焦于Mythos旨在应对的威胁。然而,更重要的转变不仅是网络风险的升级,更是网络风险产生方式的结构性转变。因此,应对之策不能只是渐进式调整,而必须体现攻击的构建、规模化与执行方式发生的变革。

前沿AI改变网络攻击的产生与规模化方式

Claude Mythos是首个得到广泛确认、能够大规模发现并利用软件漏洞的AI系统。它能够在主流系统中发现此前未知的严重缺陷,即所谓“零日漏洞”,并可自主将这些缺陷串联起来,以绕过多层防御。

简而言之,它的运作方式类似于一座零日漏洞工厂,持续发现新的网络攻击方法。

关键转变在于迈向持续、自动化的发现。漏洞识别正变得持续不断,且实际上没有边界。这挑战了网络安全领域一个长期存在的假设:即风险敞口可以被衡量、排定优先级,并随时间逐步减少。在机器规模下,待处理的积压不是缩小,而是不断扩大。

Mythos是更广泛趋势的一部分。类似能力正出现在商业模型和开源模型中,将进攻能力直接嵌入软件之中。

过去需要高度专业知识的攻击如今更易实现。制约因素正从专业知识转向获取途径,即对模型、算力和意图的获取,由此形成了更为复杂、更难遏制的风险环境。

当一个组织遭到黑客攻击时,谁来承担代价?
当一个组织遭到黑客攻击时,谁来承担代价?
03:24

AI驱动的威胁正在打破传统安全模型

网络安全传统上依赖一系列既有假设:攻击者以人类速度行动,复杂攻击需要稀缺的专业知识,且防御方有时间进行修补、检测和响应。

这些条件正在发生变化。

AI驱动的攻击将时间线从数天压缩至数分钟,同时复杂程度与规模之间的差距仍在不断缩小。随着先进模型日益易得,进入门槛也持续降低。

与此同时,漏洞发现正变得持续不断。安全模型长期以来依赖于这样一种设想:风险敞口可以被识别,并随时间逐步减少。在此环境下,风险敞口持续存在,必须作为一种持续状态加以管理。

为AI时代构建网络韧性

预防仍然至关重要。阻止攻击者入侵依然是首要目标。然而,随着先进的进攻能力更加广泛可得,遭受入侵的概率随之上升。

从入侵到造成影响之间的时间窗口也在缩短。安全防护now需作为实时系统运行,并须在压力之下持续发挥作用。

当事件发生时,组织需要具备检测、遏制并持续运营的能力。这正是网络韧性的基础。

有两项优先事项有助于引导这一转变。

第一,防御须以机器速度运作。随着响应窗口收窄,检测、分诊和初步响应越来越需要在无须人工介入的情况下完成。分析师的角色正转向监督系统、调查边缘案例并做出影响更大的决策。

第二,组织应为入侵情景做好规划。威胁可能源自已被攻陷的终端、供应商或开发工具,因此以遏制为核心的架构至关重要。

AI时代网络韧性的5项优先事项

为在此环境中落实韧性,以下五项优先事项尤为突出:

  • 实现检测与响应的自主运行。 将一级分诊工作转由自动化系统承担,弥补日志记录缺口,并实现漏洞与告警处理的自动化。

  • 取消固定的补丁周期。 当漏洞可能在数小时内被利用时,修复工作必须持续进行。虚拟补丁和补偿性控制措施将成为核心防御机制。

  • 加强基础安全控制。 落实最小权限原则,确保全面覆盖端点检测与响应,并始终如一地应用多因素认证。对AI工具和开发者插件的管理,应与对任何软件的管理一样严格。

  • 保障生态系统安全。 供应商应证明其如何应对AI驱动的威胁。若缺乏可信的计划,它们便会将风险引入共享的攻击面。

  • 保护软件开发流水线。由于攻击者日益将目标转向更前期的环节,因此应实施严格的访问控制,消除代码中的机密信息,并确保开发环境的安全。

各组织已经感受到了运营层面的影响。当天上午披露的漏洞,数小时内便会在全球范围内被扫描和探测。与此同时,告警数量不断增加,使得从噪声中辨别真正信号变得更加困难。

随着攻击活动与遥测数据规模的扩大,维持对检测结果的信任与检测本身同样重要。

每个组织当下都面临的问题

这一转变并不局限于大型企业。中型组织、公共部门实体以及中小企业往往面临更大的风险敞口,因为可规模化的攻击能力正被更广泛地应用。

在不长的时间范围内,任何具有实质影响的对外暴露漏洞都将被AI发现并测试,无论最先由谁识别。

这一趋势已经显现。

对于安全负责人而言,问题在于其组织是否已准备好在这些条件下运作。

网络韧性始终是目标,前沿AI让它刻不容缓。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。