金融机构如何才能阻止下一代人工智能欺诈?

undefined
高风险转账现在需要独立的验证控制措施,资金才能转移。Image: CardMapr.nl / Unsplash
本内容由人工智能自动翻译。
  • 随着犯罪分子利用人工智能伪造整条证据链,传统的支付控制措施已不足以应对挑战。金融机构必须超越仅仅检查提交文件的真实性,开始通过攻击者无法控制的独立数据来验证交易。

最近的两个案例表明,信任的基础正在发生多么迅速的变化。 一据报道,诈骗分子利用 WhatsApp 信息和人工智能克隆语音冒充意大利私人银行 Fideuram 的高管,导致 9500 万欧元的未经授权转账。另一起案件中,一家大宗商品公司 嘉能可 据报道,有人向多家银行发送伪造的电子邮件、合同和发票,以支持欺诈性的贸易融资申请。

这两个案例各有不同,与嘉能可相关的指控仍存在争议。然而,它们都揭示了类似的结构性改进领域。金融决策不能仅仅依赖于看似熟悉、连贯且权威的证据,因为如今的数字工具使得犯罪分子能够同时通过多个渠道伪造出这种连贯性。

多渠道人工智能欺诈的兴起

针对单一物证设计的控制措施会询问该物证是否真实。声音听起来是否可信?电子邮件地址是否可靠?发票是否包含预期信息?合同是否与既定关系相符?单独来看,每项检查都可能合理。问题在于,犯罪分子现在可以制造多个相互印证的物证,使一个伪造的信号看起来像是验证了另一个。

Fideuram 案例在实际支付场景中体现了这一点。据路透社报道,攻击者先发送了一条 WhatsApp 消息,随后又拨打了一个使用人工智能合成语音的电话。这两个渠道看似各自独立确认,但据报道,它们均由同一攻击者控制。

嘉能可的声明指出了贸易融资领域存在的风险,无论争端最终结果如何。声明中描述的模式是银行应该提前做好准备的:融资申请附有相互印证的文件和信函。如果仅将这些材料相互比较,那么即使没有人独立证实相关交易确实发生,人为制造的交易也可能在内部看起来合情合理。

为什么视觉真实性已不再足够

文件、审批层级和后续跟进仍然重要。但仅凭识别信息就更容易被操纵。当所有要素都可以被复制或篡改时,熟悉的名称、声音、格式或交易关系就不能再作为确凿的证据。

因此,金融机构需要建立独立于支持交易的材料之外的控制机制来检验交易的真实性。问题不再仅仅在于证据看起来是否真实,而在于受益人、行为、交易对手以及相关活动在与可信数据和已知风险模式进行比对后是否合理。

高风险支付的5项关键控制措施

在批准高风险转账之前,机构应根据以下五个独立维度评估交易:

  • 身份: 请求者是否通过真正独立的路由(而不是请求中指定的通道)进行了身份验证?

  • 受益人: 账户名称、所有权、管辖范围和历史记录是否与付款的既定用途相符?

  • 行为: 对于客户、员工或机构而言,该金额、速度、时间或目的地是否异常?

  • 交易对手和网络: 关联实体、账户或司法管辖区是否与已知风险相关?

  • 基础交易: 发票、合同、发货、货物、交易对手和融资申请在提交的文件之外进行核实时,是否能描述一个可信的经济事件?

这些审核环节都不容忽视。独立认证会增加紧急支付的难度。受益人验证依赖于因市场而异的数据。除了交易本身的单据之外,核实交易信息需要时间并需要获取外部资源。

目标并非对每笔交易都应用所有测试,而是根据交易的风险程度来调整验证的深度。

没有单一的答案足以解决问题,而这正是关键所在。每一项控制措施都可能被单独欺骗,攻击者需要精心编造故事才能逐一绕过它们。独立的控制措施改变了经济格局。攻击者现在必须同时绕过身份、受益人、行为、网络和交易检查,而他们掌握的证据并非完全可控。这些检查措施如果共享情报而非各自独立运行,效果最佳。

统一支付和贸易欺诈情报

当机构将支付欺诈与贸易相关的金融犯罪割裂开来时,便会忽略更广泛的模式。伪造交易需要两个团队之间情报的协同运作。支付可能只是欺诈的最后一步,而欺诈的起点可能是虚假身份、捏造的商业关系或篡改的交易单据。调查人员需要同时发现这些信号,并且必须尽早采取行动,才能在和解或融资之前采取行动。欺诈者很少单独作案;他们大多隶属于有组织的欺诈团伙。欺诈交易之后通常会进行洗钱活动,以使被盗资金看起来合法。通过打破信息孤岛,机构可以获得第二层视角:即使错过了一个信号,仍然可以捕捉到其他信号,从而阻止金融犯罪。 

克服这一威胁需要的不仅仅是传统支票的数字化;它还需要监管框架与先进技术的协调配合。实时交易监控、受益人验证、行为分析、交易对手和关联情报以及贸易单据分析需要作为互补层级协同运作。此外,还必须设计完善的升级机制,确保可疑付款永远不会退回到看似发起付款的同一授权链。

将零信任验证融入控制措施

金融犯罪并非总是以显而易见的伪造形式出现。它可能以完整、精心包装且逻辑自洽的故事形式出现。事实上,下一代金融犯罪可能并非依赖于破坏信任,而是依赖于利用信任。

诈骗分子深知,机构都接受过验证证据的培训。问题在于,证据本身可能就是攻击的一部分。一套令人信服的说辞,辅以看似真实的数据和权威人士的支持,就能以惊人的速度突破既定的审查机制。

防御的关键不在于决定信任哪个证据,而在于通过攻击者无法控制的证据来验证交易。当身份、受益人、行为、网络和底层交易都得到独立验证时,一个看似合理的谎言就更难变成合法的损失。在深度伪造、合成身份和人工智能诱导信息盛行的时代,最大的漏洞或许并非信息匮乏,而是轻信他人提供的信息。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。