人工智能正在改变网络安全:安全专家该如何应对?

undefined
本内容由人工智能自动翻译。
  • 生成式人工智能(AI)使网络犯罪分子更容易制作漏洞利用程序,对网络安全构成重大威胁。

  • 但人工智能也能通过更高效地筛查数据以发现威胁,帮助网络安全专家扭转局势。

  • 随着这场新的军备竞赛加速升级,公共和私营部门的领导者必须将网络安全放在优先位置。

还记得你第一次意识到互联网正在从根本上改变几乎一切的那一刻吗?我也不记得了。它的变化是循序渐进的。人工智能(AI)的到来则截然不同。与互联网一样,人工智能很可能会改变我们今天所熟知的生活与生存方式,但它的变化速度如闪电般迅猛。

想一想。当我们站在人工智能驱动时代的门槛上时,这项技术对我们生活和社会结构的影响正变得日益深远。据Gartner预测,“超过80%的企业将在2026年之前使用过生成式AI应用程序接口或部署过支持生成式AI的应用程序”。这已近在眼前,仅有几个月之遥。

与此同时,全球人工智能市场预计将在2030年前增长37.3%。ChatGPT在去年1月推出后仅用60天便达到了1亿活跃用户的规模。这些用户大多并非拥有雄厚预算的大型机构,而是一些小型群体,可能是任何拥有手机或笔记本电脑的人。其中不少人还是网络犯罪分子。

论坛如何应对全球网络安全挑战?

网络安全中心为各国领导人提供了一个可信平台,让他们汇聚一堂,厘清不断演变的网络风险及其系统性影响。该中心致力于在日益互联的数字世界中增进理解与信任。

通过促进跨领域合作与洞察共享,该中心帮助合作伙伴增强网络韧性,应对需要集体应对的挑战。

了解该中心的工作

作为网络武器的人工智能

没错。网络犯罪分子已开始将生成式人工智能武器化,用于恶意目的。这使该问题成为首席信息安全官(CISO)、首席信息官(CIO)、首席技术官(CTO)以及各行业中负责国家、政府机构和私营部门组织网络防御的其他领导者最为关注的议题。

过去,开发漏洞利用程序需要动用国家级资源,而如今的犯罪软件团伙所具备的能力比以往任何时候都更为复杂。尽管OpenAI已实施安全防护措施,以防止有害信息的传播,但攻击者仍在不断发现新的方法和策略来规避这些防护。

2023年网络安全:斯蒂芬·卡瓦纳谈打击网络犯罪
2023年网络安全:斯蒂芬·卡瓦纳谈打击网络犯罪
00:53

借助生成式人工智能技术,黑客能够制作语法无懈可击、标识准确、甚至包含登录信息的鱼叉式网络钓鱼邮件,且支持任何语言。他们寻找、编写和测试漏洞利用程序的速度快10倍,而且无需专业技能即可完成构建。

甚至在人工智能成为家喻户晓的词汇之前,全球网络威胁的升级速度就已超过我们的网络防御能力。随着二者之间的差距不断拉大,网络韧性(即我们管理网络安全风险的能力)正在减弱。我们正逐渐落后。

如今人工智能已登上全球舞台,竞赛已然开始,而且十分紧迫。可以说,2023年就是起跑线。一方是网络犯罪分子,从国家支持的团体到勒索软件社群;另一方则是首席信息安全官(CISO)和安全负责人,以及其安全运营团队的每一位成员。

武装网络安全团队

安全运营分析师常常要应对过时的技术、海量的数据洪流、彼此无法通信的多种工具,以及持续不断的大量告警,这使他们难以将资源集中于最重大的风险。

人工智能可以在很大程度上改变这一局面。它能够监测网络活动、识别异常情况并对告警进行优先级排序。它可以分析海量数据,识别欺诈性或可疑内容,并隔离威胁。人工智能还能让资深网络安全分析师将任务转交给初级团队成员,从而专注于更具战略性的工作,例如管理机器间的冲突、协调损害控制以及指导战术进攻行动。

正如互联网改变了我们的世界一样,人工智能也将颠覆网络安全。这一变革已然开始。随着威胁行为者利用人工智能构建更强大的攻击策略和更具杀伤力的网络武器,我们必须领先他们数步。为此,公共和私营部门的领导者必须将网络安全置于优先位置。

人工智能即便不会改变我们的人性,也将改变我们的生活。对于像我们Trellix这样的网络安全团队,以及全球各地的首席信息安全官而言,人工智能不仅不是一种新工具,甚至也不是一个新工具箱。它是一种变革性的跨越,即将机器武器化,使其模仿人类的智能与行为,从而或破坏数字网络与资产,或抵御此类攻击。这是一场新的军备竞赛,而且从现在开始。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。