人工智能（AI）正迅速成为政府、企业和公众抵御网络攻击的重要组成部分。从旨在自动执行特定手动任务的技术，到利用日益复杂的系统解析数据的机器学习，深度学习能力的突破将成为安全议程不可或缺的一环。人们十分关注这些能力如何帮助构建防御态势，却往往忽视了敌方可能如何利用 AI 推动新一代攻击手段，以及相关群体可以如何应对。归根结底，AI 的真正危险在于它将如何赋能攻击者。
挑战
对抗性人工智能是指恶意开发和使用具备人类行为典型智力过程的先进数字技术和系统。这些过程包括从过往经验中学习，以及对复杂数据进行推理或发现其中的含义。
威胁格局的变化已初见端倪。犯罪分子已在利用自动化侦察、目标利用和网络渗透，打通攻击全流程。不久，技术将使他们能够自动化攻击周期的每个环节，包括目前仍高度依赖人工的流程，例如学习欺诈防控措施，以及将套现和洗钱手段工业化。
基于大数据的核心原理，对抗性人工智能将从三个关键方面影响威胁格局。
1. 攻击数量增加，攻击周期扩大
通过引入通常需要人工和专业知识才能用于攻击的全新可扩展系统，犯罪分子将能够投入资源和能力，针对目标群体构建并改造新的基础设施。
2. 攻击节奏和速度加快，并能随环境调整
技术将使犯罪团伙的行动日益有效、高效。他们可以实时精细调整攻击、适应环境，并更快了解防御态势。这种变化将体现在所有攻击场景、行业和技术平台中。
3. 出现依赖人机交互时此前不可能实现的新型攻击
最后，也是最重要的一点，下一代技术系统将使此前难以实现的攻击方法成为可能。这将带来一系列变化，重塑威胁格局，并绕过为防御攻击而建立的整整几代控制措施。
网络安全界需要采取行动的5种方式
攻击者可用的新一代系统不断进步，因此需要采取全面、多层次的方法，并以坚实的安全基础为支撑。攻击手段的变化和攻击途径的增加，要求现有防御框架不断演进和调整。新一代攻击方法可能出现，这要求我们超越传统的检测与响应态势。
1. 了解当前的威胁环境
不可能在所有时间、通过所有渠道防御所有针对组织的攻击。要了解并防御对抗性人工智能，就必须深入掌握不断演变的威胁会在哪些方面挑战现有态势，以及有限资源应投向何处。
2. 投资技能与分析能力
为适应这一新的安全环境，政府、企业和教育体系需要确保具备所需的技能基础和人才储备。吸引和招聘人才，并让他们在多个学科领域掌握需求旺盛的技能，包括先进计算、数学和协同分析，日益成为至关重要的工作。
3. 投资供应商和第三方
全面深入的防御建立在一体化服务体系和第三方的基础上，他们会在运营和战略层面积极管理并完善防御措施，以适应不断变化的威胁格局。相关群体需要制定清晰的路线图和战略，具备必要的技能，才能适应对抗性人工智能带来的新型攻击。对集成式集群分析和机器学习分析的投资，正日益成为基于主机的检测和网络监控的行业标准；但不久之后，组织整个攻击面都将需要这类先进技术。
4. 投资建立新的运营政策伙伴关系
引入新的 AI 驱动系统将对传统防御态势构成巨大压力和挑战，组织也需要更深入、更广泛的伙伴网络来提供防御。可在全球范围内、通过多种技术和平台发动的大规模攻击，要求建立超越传统架构的主动伙伴关系与联盟。其中不可或缺的是与跨行业伙伴、监管机构和政府制定主动策略，以便协同制定战略并积极应对新的安全挑战。伙伴之间亟需统一认证和沟通规则。
5. 持续整合关键业务流程与能力
新一代攻击将在组织的整个攻击面上展开，并利用防御协同不足的问题，日益冲击结构化的运营孤岛。
为何现在行动至关重要
网络安全将继续是21世纪的安全挑战。它已经彻底改变了企业、政府和公众携手打击犯罪的方式。但这仅仅是个开始。当犯罪分子继续在全球合作的边缘地带活动，且其身份大多无法追查时，他们将抓住新技术，发动新一代攻击。
