网络攻击日益普遍，并已被公认为当今世界面临的最具战略意义的风险之一。近年来，我们目睹了针对政府、关键基础设施所有者、大型私营企业和小型企业、教育机构及非营利组织的数字攻击。不仅没有哪个行业能够免受网络攻击，它们所面临的威胁的复杂程度也在持续攀升。
网络安全的未来将由一类新近出现的、隐蔽而潜行的攻击者所驱动。他们的目的不是窃取数据，而是操纵或篡改数据。毫无疑问，攻击者将利用人工智能（AI）推动网络武器的下一次重大升级，并最终开创恶意使用AI的先河。AI学习和适应的基本能力将开启一个新时代，在这一时代中，高度定制化、模仿人类的攻击将可大规模实施。“进攻型AI”——高度复杂的恶意攻击代码——将能够在学习周围环境的同时自我变异，并以极低的被发现概率娴熟地入侵系统。
原型AI攻击：洞见未来的一瞥
AI驱动的网络攻击并非假设中的未来概念。运用进攻型AI所需的各项基本要素已然存在：高度复杂的恶意软件、出于经济动机且心狠手辣、愿意不择手段提高投资回报的犯罪分子，以及使高价值信息得以在公共领域流通的开源AI研究项目。
当代最臭名昭著的恶意软件之一——Emotet木马——是原型AI攻击的典型范例。Emotet的主要传播机制是垃圾邮件钓鱼，通常借助发票诈骗诱使用户点击恶意邮件附件。Emotet的作者近期又为其木马添加了另一个模块，用于窃取受感染受害者的电子邮件数据。此电子邮件数据外泄功能背后的意图此前并不明确，但近期已观察到Emotet大规模发送具有语境的钓鱼邮件。这意味着它能够自动将自身插入已有的邮件往来中，诱导受害者点击恶意附件，而该附件随后会出现在最终的恶意邮件中。将恶意软件插入已有邮件，使钓鱼邮件具备了更多语境，从而使其看起来更加可信。
然而，制造Emotet的犯罪分子可以轻易利用AI使这一攻击如虎添翼。目前，最终钓鱼邮件的内容通常非常笼统——例如“请查看附件”——这有时可能引起怀疑。然而，借助AI学习和复现自然语言的能力，并通过分析邮件往来的语境，这些钓鱼邮件可以高度针对个人量身定制。这意味着由AI驱动的Emotet木马能够生成并插入完全定制化、更加可信的钓鱼邮件。关键在于，它能够大规模发送这些邮件，这将使犯罪分子极大地提高其行动的收益。
这些不断发展的攻击手段可能造成极具破坏性的后果，甚至危及生命。通过破坏数据完整性，这些隐蔽的攻击使组织的信任动摇，甚至可能引发系统性故障。试想一座石油钻井平台因使用有误的地质勘探数据而在错误的位置钻探石油，或一名医生依据被篡改的病历做出诊断。随着人工智能军备竞赛的持续，我们只能预期这一创新循环将不断升级。
进攻型AI：网络攻击的范式转变
2017年，WannaCry勒索软件攻击波及全球150多个国家的组织，标志着网络攻击复杂程度新时代的开启。其成功之处在于能够在数秒之内在组织内部横向移动，同时使硬盘瘫痪，此事件随后引发了多起模仿攻击。这一“创新”循环将持续下去，攻击者已经转向加密货币挖矿恶意软件——其秘密窃取处理器算力以挖掘比特币等数字货币——以及银行木马，即一类伪装成正规应用程序以窃取金融数据的恶意软件。
对抗性人工智能的运用将以三种关键方式影响安全格局：
1 - 冒充可信用户
AI攻击将高度定制化，同时又能大规模运行。这些恶意软件将能够通过分析电子邮件和社交媒体通信，学习个人行为和语言的细微差别。它们将能够利用这些知识复制用户的写作风格，撰写看似高度可信的信息。因此，由AI恶意软件撰写的信息几乎无法与真实通信区分开来。由于大多数攻击通过收件箱进入我们的系统，即便是最具网络安全意识的计算机用户也将面临风险。
2 - 融入背景
老练的威胁行为者通常能够在目标环境中长期潜伏数月之久而不被发现。他们行动缓慢、谨小慎微，以规避传统安全控制措施，并且往往针对特定个人和组织。AI还将能够学习主要通信渠道以及在系统内移动所使用的最佳端口和协议，并悄然融入日常活动之中。这种在噪声中伪装自身的能力，意味着它能够在数字环境中娴熟地扩散，并以前所未有的程度隐秘地入侵更多设备。AI恶意软件还将能够以机器速度分析海量数据，迅速识别哪些数据集具有价值、哪些没有价值。这将为（人类）攻击者节省大量时间和精力。
3 - 更快的攻击与更有效的后果
当今最复杂的攻击需要熟练的技术人员对其目标进行研究，识别感兴趣的个人，了解其社交网络，并长期观察其如何与数字平台互动。在未来的世界里，进攻型AI将能够以极短的时间、数倍的规模实现同等水平的复杂性。
AI驱动的攻击不仅将更具针对性，因而更加有效，其理解语境的能力还意味着它们将更难被发现。传统安全控制措施将无法应对这一新型威胁，因为它们只能识别可预测的、预先建模的活动。AI在不断演进，并将对威胁分类日益具有抵抗力，而这种威胁分类恰恰是传统安全方法运作方式的根本所在。
将AI融入数字生态系统
随着我们日益依赖互联的系统和设备，我们正迅速构建一个高度先进且高度互联的数字生态系统。我们需要能够优先赢得关键战略较量的伙伴关系与能力，不仅要保护公共和私营部门持有的具有经济价值的数据，还要守护支撑社会凝聚力和民主制度的数字系统信任。
新技术投资将在这一新兴现实和不断演进的生态系统中发挥关键作用。根据Forrester的《利用AI行恶》报告，“主流的AI驱动黑客攻击只是时间问题”。事实上，随着我们开始看到AI成为网络攻击者工具箱的一部分，应对这种恶意使用AI的唯一方式就是AI本身。因此，将该技术融入这一生态系统至关重要。
反击：以机器对抗机器
网络安全界已在大力投资这一新未来，并利用AI解决方案迅速发现和遏制任何可能扰乱或危及关键数据的新兴网络威胁。防御型AI不仅是抗击网络攻击的技术优势，更是这一新战场上至关重要的盟友。组织将不再依赖安全人员手动应对事件，而是利用AI在短期内反击正在发展的问题，同时由人类团队监督AI的决策，并开展补救工作，从长远来看提升整体韧性。
AI驱动的攻击将超越人类响应团队的速度，并击败当前基于传统方法的防御；因此，人类与AI相互依存的伙伴关系将成为未来防御战略的基石。未来的战场是数字化的，而AI无疑是首选武器。应对网络安全这一世代性挑战并没有灵丹妙药，但有一点是清楚的：只有AI才能在其自身的游戏中与AI对弈。该技术已经具备，现在就是做好准备的时候。
