网络安全

人工智能正在改变网络犯罪。我们如何反击?

人工智能(AI)使网络攻击更有力——但它也可以帮助防御这些攻击者。 Image: 路透社/Ronen Zvulun

William Dixon
Global Head, Research, ISTARI
Jamil Farshchi
Chief Information Security Officer, Equifax

2019年3月,一家大型能源公司的CEO在与他所认为的母公司CEO通话之后批准了一笔22万欧元的紧急汇款,汇到他所认为的一家新的东欧供应商的账户。几小时内,这笔钱就通过拉丁美洲的一个账户网络传递给了使用人工智能(AI)逼真模仿CEO声音的犯罪嫌疑人。

您读了吗?

通过一次人工智能对话,犯罪分子避开了网络安全控制的各个关卡。他们的成功表明,使用AI、5G、生物识别技术和新加密技术等强大的开发技术将会改变攻击者和防御者的网络犯罪格局。组织必须防御网络攻击,并且需要与其公共和私营部门的合作伙伴共同努力,了解新技术是如何改变风险和威胁格局的,从而共同做出适当的应对措施。

因此,Equifax和世界经济论坛召开了首届“未来系列:网络犯罪2025”会议。来自学术界、政府、执法机构和私营部门的全球网络安全专家齐聚美国亚特兰大市,探讨人工智能在不远的将来如何改变网络安全动态。这是“未来系列:网络犯罪2025”倡议的首个研讨会,探讨第四次工业革命的关键技术对网络安全威胁和防御的启示。

人工智能为何对网络安全至关重要

网络犯罪分子善于采用任何使他们在网络安全防御方面占据优势的技术或创新方法。早期的案例研究表明防御者已经看到了最早的影响:防御“强大的”人工智能(犯罪分子使用以人类操作、思考和行动方式运行的系统),同时防御“弱的”或“功能有限的”人工智能(系统模仿人类行为完成特定任务)。考虑到其潜在的用途,人们希望人工智能可以推动网络安全格局发生系统性变化,并在不久的将来影响到网络安全所面临的四个关键挑战。

挑战1:攻击者越来越精明

从社会活动者到民族国家,精明程度不同的攻击者都在努力寻找机会获得最高回报。组织可以推动基于风险的控制投资,以降低攻击者对他们的兴趣。随着组织的网络安全计划日渐成熟,他们的攻击价值将会降低。

任务自动化和恶意服务进一步降低了屏障安全系数,使得攻击者更容易进入并执行操作,因此,人工智能可能会加速提高攻击量。在犯罪调查充满挑战的环境中,人工智能技术还可能增强攻击者保持匿名和与受害者保持距离的能力,从而增加调查难度。

挑战2: 不对称性

作为防御者,我们必须做到成功率100%地阻止攻击,而攻击者只需成功一次即可。组织必须专注培养正确的能力,并打造一支团队来利用流程和技术降低这种不对称性。

虽然人工智能和自动化正在降低可变性和成本、提高规模并控制错误,但攻击者还可以使用人工智能来打破平衡,从而占据优势地位。犯罪分子能够自动操作攻击过程中资源集约度最高的元素,同时避开针对他们部署的控制屏障。对“功能有限的”人工智能的预测表明,人工智能漏洞扫描仪可以使攻击者更快地发现并利用漏洞,这可能会给当前的漏洞管理和网络安全运营功能带来巨大挑战。

挑战3:增加攻击面/数字化操作

随着组织不断发展壮大,其技术和数据资产的规模和复杂程度也在增加,这意味着攻击者可以探索和利用的攻击面更多了。为了领先于攻击者,企业可以部署人工智能和自动化等先进技术来帮助创建可防御的“阻塞点”,而不是在整个环境中平均用力。

此外,在商业中使用人工智能有可能会改变需要抵御的网络风险和资产的本质。增加对人工智能技术的依赖可能会为攻击者创造干扰商业关键环节的新机会,从而影响组织内部决策和与顾客的关系。

挑战4:平衡风险和运营支持

组织的目标是成功且安全地运营。应对风险和威胁格局变化的一种简单对策是实行高压的安全文化,这最终会降低竞争力,压制员工积极性。相反,安全团队可以采用基于风险的方法,确定治理流程和实质性门槛,让运营领导者知晓其网络安全态势,并提出合理举措进行不断改善。

使用人工智能等技术来改善运营和技术团队的安全性操作,可以获得更多的运营支持。例如,使用当今可获取的技术,通过人工智能实现资源或时间集约型流程的自动化,大大减少完成常规安全流程所需的时间。对运营团队来说,安全流程效率提高减少了后续安全规定中容易出现的摩擦。人工智能技术的发展将带来更多机会,以改善网络安全运营,保持风险与回报间的平衡。

实施对策

在瞬息万变的网络安全威胁格局中,组织不得不防御日益复杂且相互关联的风险。包括人工智能在内的第四次工业革命的关键技术有可能在这一方面带来一系列系统性的转变。在不久的将来,人工智能将会给组织带来风险,而世界经济论坛及其合作伙伴则通过“未来系列:网络犯罪2025”计划来确定有效措施,减轻并克服这些风险。

作者:

William Dixon, 世界经济论坛,网络安全中心运营总监。

Jamil Farshchi, Equifax首席信息安全执行官。

本文由世界经济论坛原创,转载请注明来源并附上原文链接

翻译:张丽莉

编辑:刘宇彤

不要错过关于此主题的更新

创建一个免费账户,在您的个性化内容合集中查看我们的最新出版物和分析。

免费注册

许可和重新发布

世界经济论坛的文章可依照知识共享 署名-非商业性-非衍生品 4.0 国际公共许可协议 , 并根据我们的使用条款重新发布。

世界经济论坛是一个独立且中立的平台,以上内容仅代表作者个人观点。

实时追踪:

网络犯罪

相关话题:
网络安全新兴技术
分享:
全局信息
探索和追踪解决之道 网络安全 正在影响经济、产业和全球问题
A hand holding a looking glass by a lake
众源式创新
现在加入 ,用我们的数字众源平台来实现大规模的影响力
World Economic Forum logo
全球议程

每周 议程

每周为您呈现推动全球议程的紧要问题(英文)

立即订阅

您可以随时点击我们电子邮件中的链接取消订阅。 了解更多详情,请查看我们的 隐私政策.

聚焦网络安全:2024年你需要了解的10件事

Kate Whiting

2024年10月16日

这20个最常见的密码让我们更容易受到网络犯罪的攻击

关于我们

加入我们

  • 登录
  • 成为我们的合作伙伴
  • 成为我们的会员
  • 订阅我们的新闻稿
  • 联系我们

快捷链接

语言版本

隐私政策和服务条款

站点地图

© 2024 世界经济论坛