本文隶属于世界经济论坛的地缘战略平台
如今的大多数网络攻击并非瞬间按下按钮即可完成。它们是资源和时间密集型的行动（尤其是侦察阶段），由人类策划并以人类的速度展开；攻击者所需的时间和资源，与网络所采用防御措施的质量和水平成正比。威尔逊中心的梅格·金（Meg King）和雅各布·罗森（Jacob Rosen）对此持上述观点。
无论是为了进一步扫描漏洞、监控行为、在网络内横向移动，还是操纵或窃取数据，持续访问网络的需求都会增加强大的防御系统在损害扩大之前锁定可疑活动的可能性。网络攻击依然存在，但时间、金钱、精力以及失败的可能性，都可能对其他潜在的网络犯罪分子起到威慑作用。
然而，将人工智能（尤其是机器学习）应用于网络行动，有望打破这一平衡，为以机器速度实施的攻击提供更高效、更有效的工具。
最耗时的网络攻击准备工作，例如在海量数据中筛查可供利用的软件漏洞，或策划更精准的鱼叉式网络钓鱼活动，将不再需要耗费时间和雄厚资金来支付人力成本，而是能够持续、快速地进行。
机器无需停歇，也不会因疲劳或倦怠而遗漏潜在的漏洞或攻击手段。合成非结构化数据的能力，将使机器能够建立人眼可能无法察觉、或至少不会立即显而易见的潜在关联。
设计精良的算法甚至可以在目标计算机做出反应之前预测其响应，从而以不会触发机器或操作系统防御机制的方式运行
undefined
自动化不仅将在速度上对未采用自动化的人形成显著优势，而且某些工具的自适应特性还意味着，网络中任何长时间的暴露都可能使一段智能恶意代码得以实时响应并规避非自动化的安全软件。
设计精良的算法甚至可以在目标计算机做出反应之前预测其响应，从而以不会触发机器或操作系统防御机制的方式运行。考虑到当今很少有网络具备充分能力，足以抵御仅由人类实施的数字攻击，这一点尤其令人担忧。
尽管人工智能引发了安全方面的担忧，但它也将具有关键的防御性应用。在网络防御者和政策制定者审视这一不断变化的技术格局时，应审慎考虑四大关键趋势。
1. 鱼叉式网络钓鱼行之有效……而且比以往任何时候都更容易
赛门铁克2018年的《互联网安全威胁报告》发现，近四分之三的攻击者都使用了鱼叉式网络钓鱼，使其成为迄今为止使用最广泛、最成功的网络攻击途径。将这一过程自动化——正如两年多前在黑帽大会（Black Hat）上所演示的那样——只会加剧这一普遍问题。
结合自然语言处理、直方图以及对公开数据的抓取（尤其是来自推特等社交媒体网站的数据，这些网站的内容以更口语化的词汇和语法句式为特征），攻击者将能够制作出看起来更可信的恶意电子邮件，同时减少所需工作量，并提高开展此类活动的速度。
质量的同步提升与精力、时间和资源的减少，意味着鱼叉式网络钓鱼仍将是我们面临的最棘手的网络安全问题之一。
通过教育和公共服务宣传加强基本的网络卫生，无疑有助于让终端用户更加警惕钓鱼邮件的危害，并更加敏锐地识别可疑的来信。但人与人之间相互信任的天性，将永远是实现完美防御钓鱼攻击的一个重大弱点。人工智能可以帮助弥补这一不足。使用人工智能检测异常和可疑内容的电子邮件过滤服务，例如由以下公司提供的服务：RedMarlin、Inky和Phish.ai，将有助于实时提醒用户，使其能够做出更审慎、更明智的判断。人与机器的结合将成为更好的防御手段。
2. 行为检测
利用机器学习的行为检测被誉为纵深防御型网络安全中最具前景的软件解决方案之一，由业内专家所认可。行为检测系统通过监控网络活动来运作，为特定网络建立“正常”行为的基线。随后，将该基线用于比对网络上的新行为，以发现任何可能表明异常或非法行为的偏差，并将其标记以供审查。机器算法更擅长观察和分析分布在大型网络中的用户行为。
遗憾的是，这些防御工具正被网络攻击者逆向工程，并被重新配置为有效的网络武器。去年，印度一家公司的网络遭受了攻击，攻击者利用机器学习观察正常用户的行为模式，随后模仿这些模式，试图隐藏其在系统中的存在。
3. 向云端迁移
云计算诞生已逾十年，不仅为用户提供规模经济优势，还在安全性方面带来实质性好处。如今，关于攻击者重要战术和程序（例如恶意软件变种和首选攻击方法）的威胁信息，能够以前所未有的规模迅速共享。利用这一能力，网络安全行业现已提供集成了机器学习的商业化产品，用于其终端和恶意软件防护程序。通过自动化威胁收集与分析流程，防御者能够更准确、更迅速地检测恶意活动，并应对任何此类威胁。
遗憾的是，各类云平台也成为攻击者的主要目标，从拒绝服务攻击，到针对使用存在已知漏洞软件的云服务发起的攻击，自动化攻击将是一个持续存在的问题。云服务的可扩展性使其对许多用户极为有利，但如果防护或配置不当，也可能导致灾难性后果。
4. 软件中的漏洞发现
时至今日，漏洞发现仍是一项由人类完成、费时费力的过程，其速度以及潜在发现范围都受限于我们自身无法避免的盲区。因此，这一领域尤其适合实现自动化。
2016年，美国国防高级研究计划局（DARPA）举办了“大型网络挑战赛”（Grand Cyber Challenge），参赛团队在夺旗竞赛中相互较量。但人类并非主要参与者。该挑战赛完全由在超级计算机上运行的自动化程序组成，这些程序的任务是扫描自身网络中的漏洞，并针对敌对攻击者（即竞赛中的对手）进行修补。ForAllSecure公司（其超级计算机MAYHEM背后的公司）最终夺得了胜利，此后该公司将其产品商业化，向美国国防部以及商业企业出售自动化漏洞发现能力。
迄今为止的结果颇具说明性。在一个广泛使用的开源程序的公开测试案例中，MAYHEM仅用60个工时就发现了10个漏洞利用程序；其中一个漏洞有可能导致整个程序瘫痪。此前，该程序已被其他漏洞研究人员扫描过，他们相对有把握地认为，自己已找出了现存最危险的漏洞利用程序。攻击者也将寻求开发类似的工具。
下一步会怎样？
人工智能有望加快老练行为者发动网络攻击的速度并提高其成功率，并最终使技术较弱的人也能做到（前提是现成工具得以开发并提供）。它还将进一步模糊人们传统理解中网络进攻与防御之间的界限。
谁最快部署这些自动化技术，谁就将占据优势。人工智能将带来大多数公众和许多私营部门企业都毫无准备的攻击。好消息是，网络安全行业也在运用同样的方法进行防御。但这些服务需要持续投资，以及推动网络安全防御不断演进的激励措施，而这些目前尚未大规模存在。
在保护网络免受攻击者侵害的过程中，人类将继续在守护自身网络方面发挥重要作用。但是，在任何此类战略中，自主系统发挥核心作用都至关重要。
要有效地将人工智能用于防御目的，需要融合各类主动和被动性质的战术与工具。政策制定者必须鼓励对运用此类工具的最佳实践进行分析，并考虑为其使用制定标准。
人工智能的现实挑战：网络攻击的自动化，梅格·金（Meg King）和雅各布·罗森（Jacob Rosen），威尔逊中心
