网络犯罪分子借大数据蓬勃发展,应如何将其捕获

Thai riot policemen are reflected in water behind their shields as they take a part in an exercise in an army base in Bangkok's suburbs February 20, 2010. Thai security forces, army and police organized a joint exercise to prepare for possible anti-government protests in the country. REUTERS/Damir Sagolj (THAILAND - Tags: POLITICS CIVIL UNREST MILITARY) - GM1E62K1HUZ01
An abundance of data and technology provide both challenges and opportunities for law enforcementImage: REUTERS/Damir Sagolj
本内容由人工智能自动翻译。

随着技术迅速发展,末日论调也随之迅速涌现。几乎每天都有人预言,技术将把我们推向匿名加密、虚假伪造、人工智能与区块链交织而成的混乱深渊。

然而,持异见的声音正试图传播另一种论调。在过去一个世纪里,日益高效的技术和知识进步已应对了诸多全球性挑战,包括全球贫困、暴力犯罪致死、儿童死亡率、可预防疾病和人类预期寿命——其规模前所未见。

显而易见,此类突破可被视为人类最伟大的成就之一;然而,我们也看到,技术助长了网上虚假信息的传播、全球网络攻击,以及前所未有的恐怖主义媒体宣传活动,后者激励了成千上万潜在的恐怖分子。

“技术是一种将曾经稀缺之物变得丰富的力量,”彼得·迪亚曼蒂斯与史蒂文·科特勒在《丰裕:未来比你想象的更美好》(Abundance: The Future is Better than You Think)中写道。这确实是第四次工业革命的基石。但在资源有限的世界里,当某物变得“丰富”时,往往是以另一种事物变得稀缺为代价。

全球犯罪群体从技术的指数级增长以及这场革命所带来的承诺中获益良多。技术的丰裕是否会催生新的犯罪模式,从而使执法能力变得稀缺?在其他方面,数据的丰裕是否使信息变得稀缺?以注意力攫取为目标的界面激增,是否使隐私变得稀缺?端到端加密与零知识模型的大规模应用,是否使溯源归因变得稀缺?网上虚假内容与大规模虚假信息的泛滥,是否使证据变得稀缺?实时通信的全球化,是否使管辖权变得稀缺?

总而言之,技术的丰裕是为执法带来了稀缺还是机遇?

真实性稀缺,虚假内容泛滥

据欧洲刑警组织报告,过去十年间,执法部门可获取的数据呈爆炸式增长,这影响了安全部门快速、大规模理解和分析这些数据的能力。但问题已不再是大海捞针;如今的挑战是找出伪装成干草的针。

对数据的信任是警务和法律程序的基本前提。如果我们无法评估所收集数据或所扣押电子证据的真实性,那么司法体系的根基便会动摇。当被告与控方可能就同一事件各自提供数字上同样逼真却互相矛盾的监控录像、社交媒体活动摘录或不同的GPS坐标记录时,法庭又如何能够信任庭上所呈现的内容?指数级技术的融合正在加速一个重大威胁的出现:数据真实性稀缺,进而导致信任稀缺。

网络犯罪的各种类型

2017年底,一个开发者社群以代号“DeepFake”在Reddit上发布了一项实验。他们为最新成果感到自豪:篡改色情视频,将性工作者的脸替换为好莱坞明星的脸。此后,深度伪造社群规模已大幅增长,新的技术突破也不断涌现,例如三星的新型人工智能技术,已被用于制作深度伪造内容,

这只是融合技术丰裕所展现力量的一个例子,尤其是当其与分散化的人才网络、廉价的算法能力及计算能力相结合时。人工智能算法(TensorFlow)的公开发布、个人数据的大量可得、创新者有机社群的突然互联,以及免费知识的广泛生产,这些因素共同汇聚,催生了一种可能在全球范围内威胁数据真实性的商业模式。

篡改数据真实性不仅限于人工智能支持的媒体制作;如果无法将虚假内容传播给公众,制造虚假内容本身也毫无意义。这不仅通过制造和传播虚假叙事(借助文字、媒体以及定向传播策略)实现,还通过公民画像。这是一种精准的虚假信息,通过定向虚假内容影响公民的信念或行为。

执法部门能做些什么?

鉴于数据的广泛可得性、人工智能与大规模画像的融合有助于制造虚假内容,执法部门应仔细审视其所持有的数据。投资人工智能分析在深度伪造和假新闻出现之前收集的历史数据,将形成可用于评估潜在操纵行为的模式与特征。目前,多个行业正努力充分利用暗数据,尤其是从历史数据中挖掘有价值的信息。在新生成的数据容易被操纵的世界里,大多为人工收集的历史数据集,就真实性而言更具价值。

人工智能的另一种用法,是效仿现有的虚假内容生成最佳实践。人们常说,色情与娱乐产业是媒体技术的先行者。色情爱好者率先投资深度伪造技术,而好莱坞已在生成以假乱真的虚拟演员,尤其是借助人工智能生成对抗网络(GAN)。该概念涉及两个相互对立的人工智能:一个负责生成虚假内容,另一个负责评估其质量。执法部门可以投资于类似的生成与检测流程。

对旨在确保数据透明性与可追溯性而创建的区块链技术进行进一步投资,也可能大有裨益。基于区块链的服务的目标之一,是打造一个协作式真相账本,使其几乎无法被篡改(至少在量子计算普及之前是如此)。这正是自主主权身份的核心所在,它可能成为应对身份盗用或虚假身份生成的全球性方案,而技术还能帮助执法部门将可能被篡改的数据恢复至原始状态。

知识至关重要

执法部门必须深刻理解民众如何易受虚假内容影响。正如打击入室盗窃、盗窃或非法毒品犯罪需要了解犯罪分子如何锁定其市场一样,应对虚假内容也需要充分认识公众的认知弱点。执法部门需要掌握智慧城市传感器、物联网、社交媒体和自动驾驶汽车等所采集的数据类型,以及犯罪团伙可能如何将这些数据武器化以对付公众。

数据真实性所受的威胁源于颠覆性技术的融合以及服务的大规模数字化。执法部门可以通过另一种融合来应对这一挑战:将尖端技术素养与对数据偏差的深刻理解相结合。这将使执法部门不仅能够理解技术的丰裕,还能够将数据转化为新型警务解决方案与行动,从而造福其所服务的社区。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。