2019年3月,一家大型能源公司的CEO在与他所认为的母公司CEO通话之后批准了一笔22万欧元的紧急汇款,汇到他所认为的一家新的东欧供应商的账户。几小时内,这笔钱就通过拉丁美洲的一个账户网络传递给了使用人工智能(AI)逼真模仿CEO声音的犯罪嫌疑人。

通过一次人工智能对话,犯罪分子避开了网络安全控制的各个关卡。他们的成功表明,使用AI、5G、生物识别技术和新加密技术等强大的开发技术将会改变攻击者和防御者的网络犯罪格局。组织必须防御网络攻击,并且需要与其公共和私营部门的合作伙伴共同努力,了解新技术是如何改变风险和威胁格局的,从而共同做出适当的应对措施。

因此,Equifax和世界经济论坛召开了首届“未来系列:网络犯罪2025”会议。来自学术界、政府、执法机构和私营部门的全球网络安全专家齐聚美国亚特兰大市,探讨人工智能在不远的将来如何改变网络安全动态。这是“未来系列:网络犯罪2025”倡议的首个研讨会,探讨第四次工业革命的关键技术对网络安全威胁和防御的启示。

人工智能为何对网络安全至关重要

网络犯罪分子善于采用任何使他们在网络安全防御方面占据优势的技术或创新方法。早期的案例研究表明防御者已经看到了最早的影响:防御“强大的”人工智能(犯罪分子使用以人类操作、思考和行动方式运行的系统),同时防御“弱的”或“功能有限的”人工智能(系统模仿人类行为完成特定任务)。考虑到其潜在的用途,人们希望人工智能可以推动网络安全格局发生系统性变化,并在不久的将来影响到网络安全所面临的四个关键挑战。

挑战1:攻击者越来越精明

从社会活动者到民族国家,精明程度不同的攻击者都在努力寻找机会获得最高回报。组织可以推动基于风险的控制投资,以降低攻击者对他们的兴趣。随着组织的网络安全计划日渐成熟,他们的攻击价值将会降低。

任务自动化和恶意服务进一步降低了屏障安全系数,使得攻击者更容易进入并执行操作,因此,人工智能可能会加速提高攻击量。在犯罪调查充满挑战的环境中,人工智能技术还可能增强攻击者保持匿名和与受害者保持距离的能力,从而增加调查难度。

挑战2: 不对称性

作为防御者,我们必须做到成功率100%地阻止攻击,而攻击者只需成功一次即可。组织必须专注培养正确的能力,并打造一支团队来利用流程和技术降低这种不对称性。

虽然人工智能和自动化正在降低可变性和成本、提高规模并控制错误,但攻击者还可以使用人工智能来打破平衡,从而占据优势地位。犯罪分子能够自动操作攻击过程中资源集约度最高的元素,同时避开针对他们部署的控制屏障。对“功能有限的”人工智能的预测表明,人工智能漏洞扫描仪可以使攻击者更快地发现并利用漏洞,这可能会给当前的漏洞管理和网络安全运营功能带来巨大挑战。

挑战3:增加攻击面/数字化操作

随着组织不断发展壮大,其技术和数据资产的规模和复杂程度也在增加,这意味着攻击者可以探索和利用的攻击面更多了。为了领先于攻击者,企业可以部署人工智能和自动化等先进技术来帮助创建可防御的“阻塞点”,而不是在整个环境中平均用力。

此外,在商业中使用人工智能有可能会改变需要抵御的网络风险和资产的本质。增加对人工智能技术的依赖可能会为攻击者创造干扰商业关键环节的新机会,从而影响组织内部决策和与顾客的关系。

挑战4:平衡风险和运营支持

组织的目标是成功且安全地运营。应对风险和威胁格局变化的一种简单对策是实行高压的安全文化,这最终会降低竞争力,压制员工积极性。相反,安全团队可以采用基于风险的方法,确定治理流程和实质性门槛,让运营领导者知晓其网络安全态势,并提出合理举措进行不断改善。

使用人工智能等技术来改善运营和技术团队的安全性操作,可以获得更多的运营支持。例如,使用当今可获取的技术,通过人工智能实现资源或时间集约型流程的自动化,大大减少完成常规安全流程所需的时间。对运营团队来说,安全流程效率提高减少了后续安全规定中容易出现的摩擦。人工智能技术的发展将带来更多机会,以改善网络安全运营,保持风险与回报间的平衡。

实施对策

在瞬息万变的网络安全威胁格局中,组织不得不防御日益复杂且相互关联的风险。包括人工智能在内的第四次工业革命的关键技术有可能在这一方面带来一系列系统性的转变。在不久的将来,人工智能将会给组织带来风险,而世界经济论坛及其合作伙伴则通过“未来系列:网络犯罪2025”计划来确定有效措施,减轻并克服这些风险。

作者:

William Dixon, 世界经济论坛,网络安全中心运营总监。

Jamil Farshchi, Equifax首席信息安全执行官。

本文由世界经济论坛原创,转载请注明来源并附上原文链接

翻译:张丽莉

编辑:刘宇彤