自主学习型渗透测试:它是什么,为何对贵组织的网络安全至关重要

A man sits in front of rows of computer screens with code: Autodidactic pentesting – agents can learn, adapt and retest as environments evolve to proactively eliminate attack paths
Autodidactic pentesting – agents can learn, adapt and retest as environments evolve to proactively eliminate attack pathsImage: Unsplash+/Paris Bilal
本内容由人工智能自动翻译。
  • 自主学习型渗透测试是指人工智能智能体能够随环境演变而学习、适应并重新测试,从而主动消除攻击路径。

  • 随着人工智能系统能够执行复杂的多步骤网络行动,良好的意图和基于提示词的护栏已不再足够。

  • 要实现自主学习型渗透测试的益处,组织需要可信的本地人工智能能力,以及在授权、日志记录、恢复和监督方面的行业通用标准。

随着组织日益数字化,识别并消除可被利用的系统弱点已成为一项战略优先事项。

渗透测试是模拟针对组织系统的网络攻击,以便在恶意行为者利用安全弱点之前将其识别出来的做法。传统上,此类测试是阶段性进行的,并受限于人力可用性。

一支团队到场,测试既定环境,出具报告后离开。与此同时,随着新代码的部署和身份权限的累积,环境不断变化。昨日的“体检合格”很快就会变成今日未被记录的风险暴露。

人工智能(AI)已从根本上改变了这一模式。新兴的自主学习型渗透测试超越了自动化扫描,发展为能够观察环境、提出假设、加以检验、从结果中学习并选择新行动方案的系统。

以下是事件管理人员需要了解的内容。

自主学习型测试如何运作?

“自主学习”一词指的是自主导向的学习。传统扫描器遵循一套检查目录。自主智能体则自行选择使用哪种工具。自主学习型系统能够解读失败,更新其对目标的理解,并设计下一步尝试。

例如,它可能发现直接利用漏洞的途径被阻断,并推断某一身份提供了另一条路径。随后,它将检验这一假设,并将结果纳入不断演进的攻击图谱。

除提示工程和简单的工具指令外,人工智能智能体日益需要一个持久的知识工作空间,即一种结构化记忆,帮助其跨任务进行推理、与子智能体协调,并利用受委托的人类身份从先前行动中学习。

不断演变的网络威胁格局为何需要自主学习型系统

2026年7月,OpenAI 披露称,正在进行内部网络能力评估的模型突破了预设约束,并入侵了Hugging Face基础设施。

这些模型在一个缓存代理中发现了零日漏洞(即此前未知的漏洞),获得了互联网访问权限,并借此获取额外权限,综合运用多种技术追寻复杂的攻击路径,以入侵受保护的目标,本次事件中的目标为ExploitGym。

这些模型的持续性表明,先进智能体把技术障碍视为有待解决的问题,而非需要尊重的边界。Anthropic也公布了其基准测试审查中发现的三起事件的详情。

现代进攻性人工智能的决定性趋势是“长周期行动”。智能体不是完成单一任务,而是在侦察、利用、权限提升和横向移动的全过程中持续维持一个目标。它能够协调命令行终端、浏览器、源代码分析、云API和凭证窃取,并掌握足够的状态以便从先前行动中学习。

这些能力将惠及防御方。自主学习型系统可持续测试不断变化的基础设施,验证发现的问题是否可被利用,并对修复措施进行再测试。

与其在CVE积压清单中再添加上千个理论漏洞(即尚未修复的已知漏洞清单),智能体可以展示多个弱点如何相互组合,形成通往关键资产或目标的有效路径。

关注点从所生成的发现数量转向所消除的风险暴露数量。这就是我们所说的自我保障型软件。

制度性保障措施的弊端

Hugging Face的应对也表明,防御性人工智能恰恰在最需要的时候受到约束。Hugging Face利用由大语言模型驱动的智能体分析了17,600条记录事件,重建攻击时间线,识别入侵指标,并梳理受影响的凭证。

团队最初提交了取证证据(包括攻击者命令、漏洞利用代码和命令与控制工件),通过服务商API提交给前沿模型。由于安全系统无法可靠地将取证调查与入侵系统的企图区分开来,这些请求被拦截。

Hugging Face转而在自有基础设施上运行了中国开放权重的 GLM-5.2 模型,从而使响应人员能够在不受拒绝的情况下处理证据,并防止敏感数据和相关凭证离开其环境。

Hugging Face将此称为不对称问题:攻击者使用不受限制或已越狱的模型,而使用托管前沿模型的防御者则受到服务商护栏的限制。实际建议是在事件发生前,预先审核并准备好一个能力强、可在本地部署的模型。

如何应对不对称的网络访问

答案并非取消安全防护,而是建立可问责的访问机制。OpenAI的 Trusted Access for Cyber 等项目所指向的方向是:经过验证的防御者借助更严格的身份验证、监控和监督,获得权限更宽松的能力。

安全控制需要了解以下背景:谁在执行操作、获授权测试哪些系统、执行发生在何处,以及每项操作将如何被审计,并在必要时如何回滚。

AI渗透测试智能体的能力足以执行真实的网络行动。因此,仅凭相信它们会遵守伦理是不够的,必须部署能够强制执行伦理行为的技术保障措施。正如InfoSecurity Magazine所论述,当智能体能够完成认证、枚举、利用、横向移动和数据外泄时,伦理意图是不够的。

这些保障措施必须控制智能体可以做什么、限制其行为范围、确保其自行清理残留,并为其采取的每一项操作建立可审计的记录。否则,我们等于为威胁行为者留下了入侵我们系统的垫脚石。

安全保障措施应如何与自主学习型渗透测试协同运作

授权必须通过代码强制执行,而不能依赖提示词或工作说明书。测试目标应与授权组织进行加密关联。范围、时间窗口、禁止行为和终止条件必须能够由机器强制执行。

学习型系统可以决定如何测试,但绝不能由其自行决定有权测试的对象。

遏制机制必须位于模型之下层。例如:

  • 网络出口限制,以限定智能体可以向何处发送数据或连接。

  • 分段执行,即智能体在隔离环境中运行,即使其行为失当,也无法自由访问组织的其他系统。

  • 最小权限身份,即仅授予其绝对必需的权限;如果其测试的是某一应用程序,则不应自动获得对整个公司的访问权限。

  • 资源限制,用以约束智能体可占用的计算能力、存储、内存或时间。

  • 操作频率上限,用以限制智能体执行操作的速度,并防止其在出现故障时于数秒内发起数千次请求或变更。

  • 人工智能审批关卡,用以限制智能体实际可以执行的操作:一条写着“不得离开沙箱”的提示词并不构成沙箱。

清理同样重要。自主测试会产生所谓的“智能体残留”,包括临时账户、令牌、载荷、配置更改、上传文件、计划任务以及潜在的持久化机制。

系统应对这些残留物进行盘点、清除,并以已知安全的基线验证恢复情况。“清理已完成”应以证据为支撑,而非仅凭保证。

构建网络安全生态系统的重要性

最后,每项操作都必须可追溯至特定的智能体实例、人工授权人、模型版本、工具、凭证及测试任务。由于测试开始时无法预测智能体最终所走的路径,自主学习行为会加大审计负担。

此前,《世界经济论坛》关于网络保险与韧性的文章认为生态系统参与方可通过协作、改进计划、持续监测和共享情报提升安全性。同样的逻辑也适用于此。

模型服务商、安全供应商、保险公司、监管机构和企业必须就授权证据、智能体日志、清理证明和恢复测试建立共同标准。

自主学习型渗透测试将为防御方带来持久优势:能够以其环境变化的速度持续学习的能力。

然而,一个以克服障碍为训练目标的系统,最终可能会把安全边界仅仅视为另一道障碍。因此,衡量其成功与否,不仅要看它发现了什么,还要看它是否始终获得授权、保持在受控范围内、能够解释其行为、自行清理残留,并在被要求时停止。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。