人工智能驱动的欺诈如何冲击全球经济——以及应对之策

undefined
本内容由人工智能自动翻译。
  • 生成式人工智能的兴起显著扩大了网络犯罪的规模和复杂程度,尤其是身份盗窃和欺诈。

  • 数字身份钱包与可靠的生物识别验证相结合,是应对人工智能驱动欺诈的有效方式。

  • 政府和组织正在采用数字身份钱包,作为可扩展的欺诈防御手段。

网络犯罪正在消耗全球企业和政府的资源。

预计全球网络犯罪成本将到2025年每年达10.5万亿美元,高于2015年的3万亿美元,数据来源为Cybersecurity Ventures。换个角度看,如果每年的网络犯罪是一个国家,它将是全球第三大国内生产总值(GDP)经济体。

欺诈是网络犯罪的常见类型,得益于生成式人工智能(GenAI)的出现,其增速有望达到前所未有的水平。

这一加速可能会加剧本已十分严峻的挑战。大流行期间,随着更多政府服务转向数字化,美国的欺诈行为急剧增加。2018年至2022年间,联邦政府损失了2330亿至5210亿美元,每年因欺诈。

论坛如何应对全球网络安全挑战?

网络安全中心为各方领导人提供了一个可信赖的平台,共同理解不断演变的网络风险及其系统性影响。该中心致力于在日益互联的数字世界中建立理解与信任。

通过推动跨行业合作与洞察分享,该中心帮助合作伙伴增强网络韧性,应对需要集体应对的挑战。

了解该中心的工作

这相当于每年约占美国GDP的2%被盗,且在该期间共损失约一万亿美元。令人震惊的是,欺诈估算并未包括州一级损失的联邦资金。

这些损失背后大多是身份窃贼,他们利用受害者的个人信息窃取SNAP援助、小企业贷款及其他资源等福利。

对受害者而言,影响是毁灭性的。2022年,16%的身份盗窃受害者表示曾考虑自杀,较上一年上升10%,凸显了身份盗窃对人的伤害。由身份盗窃引发的欺诈不仅是经济危机,还破坏信任与人身安全。

如今,欺诈者掌握了先进的人工智能工具,问题日益严重。人工智能驱动的深度伪造技术使犯罪分子能够以极具欺骗性的精确度冒充他人外貌,可能绕过验证系统并获取敏感资源。

2023年,用于绕过身份验证的深度伪造“换脸”激增了704%。与此同时,人工智能驱动的语言模型使钓鱼诈骗更加普遍且更具迷惑性,以前所未有的规模诱使人们泄露敏感信息。

在下面的视频中,一名中国的身份窃贼试图利用深度伪造技术冒充宾夕法尼亚州居民,并攻击美国一个联邦机构。ID.me检测并阻止了这次攻击。请注意,当其虚拟摄像头的信号被干扰时,欺诈者的面部是如何变化的。

人工智能正在改变我们的生活、工作和治理方式。它具有改善世界的巨大潜力,但也带来了我们不能忽视的威胁。传统的身份验证方法——密码、用户名和基于知识的验证——已不再足够。

人工智能使欺诈者能够大规模利用这些过时系统中的漏洞。

那么,要反击需要做些什么?

数字身份钱包与生物识别技术

对于担心欺诈日益增多的组织而言,“数字身份钱包”是解决方案的关键。利用优质生物识别技术应对深度伪造和诈骗的数字身份钱包,为组织提供了一种安全且可扩展的方式,以核实在线申请其福利和服务的人员确实是其所声称的身份。

其运作方式如下:

  • 用户创建一个安全且可移植的登录方式,使数据能够在各网站之间安全流转。

  • 用户利用其个人信息、身份证件和生物识别信息完成身份验证,将其身份与该安全登录方式绑定。

  • 该登录方式转变为一个数字钱包,使在线访问服务更加便捷。

如今,“尼日利亚王子”式的邮件诈骗已成过去。生成式人工智能使诈骗者能够制作更具迷惑性的钓鱼信息。请注意上方这封近期收到的钓鱼邮件,其语言更自然、更逼真,该邮件由一名ID.me员工收到。Image: ID.me

长期以来,消费者因需管理多个密码而备感烦恼,而GenAI的恶意使用使登录变得更不安全。数字钱包通过作为以用户为中心的共享服务,一举解决了这两个问题。

只需点击几下并授权同意,数字钱包即可帮助您轻松登录并安全共享凭证——正如实体钱包让您在现实世界中轻松出示驾照一样。

尽管大多数数字身份钱包遵循这一总体结构,但不同发行方的具体细节有所差异。例如,欧盟(EU)一直在引领通过大规模试点,在全国层面开展广泛应用测试。到2026年,每个成员国都将发行基于一整套广泛的欧盟统一技术标准构建的自有钱包。

数字身份钱包可应对多种欺诈漏洞,包括与人工智能相关的漏洞。它们可以整合先进技术,如1:1人脸验证、重复人脸检测和活体检测,使其更能抵御深度伪造驱动的冒充企图及大规模攻击。

由于技术架构以用户为中心,而非组织,身份钱包无需再手动向不同组织提交个人信息,从而降低了身份盗窃风险,同时减少了操作障碍。

你认识的人中是否有人落入过冒充祖父母的骗局?以下是如何防范黑客的方法。
你认识的人中是否有人落入过冒充祖父母的骗局?以下是如何防范黑客的方法。
03:58

为所有人构建更安全的数字未来

全球各国政府和组织正在采用数字身份钱包以打击欺诈。例如,七个州将美国最大的数字身份钱包ID.me归功于在大流行期间帮助防止了超过2700亿美元的欺诈。

根据《欧盟数字身份钱包框架》,该框架已于去年生效,每个欧盟成员国还将于2026年前提供数字身份钱包。

全球势头正在增长。到2029年,预计将有15亿人使用数字身份钱包,这些钱包将存储全球约30%的所有数字身份。

数字身份钱包将身份验证——此前主要由数据经纪商等单点解决方案处理——转变为登录问题。它们提供了一种以用户为中心的方法,更适合未来发展。

人工智能已重塑了政府和企业面临的威胁格局,但更智能、更安全的身份验证可以帮助我们保持领先。通过投资数字钱包,我们能够构建更安全、更包容且面向未来的数字经济。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。