2021年发现了超过250,000个包含或宣传儿童性虐待材料的网址，比2020年增加64%。
人们已开发出多种技术来应对网络危害。
采用这些最新技术，企业便能优先保障用户在线上的信任与安全。
网络危害的规模不断扩大，恶意行为者实施此类危害的手段也日益复杂。互联网观察基金会（IWF）致力于打击网络儿童性虐待材料（CSAM），该机构发现，252,194个网址在2021年包含或宣传CSAM，比2020年增加64%。
在恐怖主义内容方面，各平台已被武器化，用于直播恐怖袭击，包括基督城大屠杀、哈勒犹太教堂袭击，以及最近发生的布法罗枪击事件。网络欺凌也令人担忧地有所增加，其中美国的比例最高的是出于种族动机的网络欺凌。
世界经济论坛正在采取哪些行动来改善网络安全？
与此同时，人们花在网上的时间越来越长，这可能使人们更多地暴露于数字安全风险之中。例如，英国监管机构Ofcom发现，13至24岁的人群中有67%曾在网上看到可能有害的内容，但只有17%的人报告了这些内容。鉴于接触此类内容的人与向平台举报的人之间存在显著差距，主动检测这些危害并防止用户接触相关内容的技术正变得愈发重要。以下是塑造数字安全未来的一些最新技术趋势：
1. 客户端扫描
客户端扫描（CSS）通常泛指这样一类系统：在消息通过加密渠道发送给预定接收者之前，扫描消息内容（如图片、文本或视频），并与非法或令人反感内容的数据库进行匹配。这类似于用于防止计算机感染恶意软件的防病毒软件。
近期，在讨论如何打击CSAM及其他非法材料时，CSS成为热门话题，因为一些人认为它能在不破坏端到端加密（E2EE）技术的情况下发现此类材料。CSS主要有两种方式：一种在设备端进行，另一种在远程服务器上进行。
Cyacomb首席执行官Cyacomb兼网络安全技术行业协会（OSTIA）主席伊恩·史蒂文森表示：“过去几个月，我们看到人们对客户端计算以及分割式或多方计算技术的可能性进行了非常扎实的探索。这项技术不会触碰系统中加密的部分，因此能完整保留其所有保护机制。它不存在‘后门’。相反，这些技术会对进入和离开加密域的内容进行边界检查，同时以保护用户隐私的方式完成检查。任何第三方都无法识别、追踪或匹配用户发送或接收的内容。”
不过，许多组织，例如Access Now和互联网协会，都表达了对CSS的担忧。Access Now致信欧盟委员会，指出其对隐私、安全和表达自由构成的风险。史蒂文森及其他专家（包括英国政府通信总部（GCHQ）和国家网络安全中心（NCSC）的负责人）并不认同这些担忧。史蒂文森表示，这些用于匹配和拦截已知CSAM的技术能力能够为用户提供出色的隐私保护；他还指出，主流E2EE应用泄露元数据对隐私的威胁，远大于这些新开发的系统。
针对某些政府可能利用CSS技术压制言论自由或识别异见人士的担忧，他认为应结合现有威胁来考量这些问题，而非孤立看待。他说：“意图屏蔽特定内容的专制政府不太可能十分在意隐私保护，因此很容易强制采用现有的各种解决方案。部署这些新技术所带来的额外风险很小，而对社会的潜在益处却非常巨大。”
澳大利亚电子安全专员朱莉·因曼·格兰特认为，应将安全、隐私和保障视为数字信任的三大支柱。她说：“在安全、隐私和保障之间取得平衡很重要——它们并非相互排斥，这些要求之间的良性张力能够带来更好的结果……但继续把隐私与安全对立起来，或视为彼此排斥的价值观，完全偏离了问题的关键。在我们收到的许多举报中，尤其是基于图像的侵害案件，隐私与安全往往相辅相成。”
2. 人工智能与自然语言处理（NLP）模型
人工智能（AI）系统有助于提高内容审核的速度和可扩展性，既可自动化内容审核流程，也可通过自然语言处理（NLP）模型检测各类有害内容。不过，Rewire首席执行官兼联合创始人伯蒂·维德根指出，AI发展面临的一大挑战是每个平台都不相同——用户、内容类型、媒介、危害和规范各有差异。这给开发者带来了巨大难题，因为软件开发中传统的“一刀切”方法根本行不通。Rewire他说：“过去两年，我们看到非常强大的模型开始涌现，能够进行‘
过去两年，我们看到非常强大的模型开始涌现，能够进行‘零样本’和‘少样本’学习。实际上，这些进步意味着软件只需相对少量的数据，就能取得很高的性能。我们还有很长的路要走，但这为打造可扩展、完全针对各个平台定制的AI开辟了令人振奋的新可能性，而且无需承担原本所需的巨大成本和漫长开发周期。”维德根说。
由于许多软件难以处理细微差别、意图、语境和笑话等问题，一些人仍对将AI用于网络安全持怀疑和不信任态度。提高AI的可靠性、灵活性、成本效益和准确性，并通过人工监督建立有效的反馈循环，将有助于推动其应用。
Spectrum Labs首席执行官兼联合创始人贾斯廷·戴维斯Spectrum Labs指出，更好地检测有害行为，可以为测量和透明度工具铺平道路，帮助网络平台作出更好的政策决策并改善用户体验。他说：“如果再结合识别并鼓励健康行为的能力，信任与安全团队就能以数据为依据，与客户体验和产品团队协同，强化#SafetyByDesign原则。”戴维斯说。
他认为，今天投资NLP和AI工具，将帮助行业领先应对新兴威胁，并推动线上社区朝更健康的方向发展。
3. 图像与视频识别
图像哈希旨在创建数字指纹，以便查找重复图像；它是使用算法为图像分配唯一哈希值的过程。由于同一图像的副本具有相同的哈希值，因此无需进一步人工评估，就能检测并删除已知CSAM。
这项技术刚出现时，如果图像经过裁剪或颜色修改等细微变化，每个编辑版本都会产生不同的哈希值，从而降低技术的有效性。不过，2009年，微软与达特茅斯学院的汉尼·法里德博士合作开发了PhotoDNA。该技术基于哈希技术，但能够识别图像是否经过编辑，因此仍为其赋予相同的哈希值。这使犯罪分子更难在传播CSAM时逃避检测。
云端哈希列表（例如由IWF维护的列表）可以阻止CSAM被上传，而且无法通过哈希值逆向还原图像。IWF的新技术可为哈希值添加上下文元数据，并使其兼容全球多个司法管辖区。
4. 年龄与身份验证：生物识别和面部分析
在需要核实个人身份才能在线访问特定产品、服务或体验的情况下，安全、可靠且准确地验证用户身份，是网络安全的关键。使用生物识别技术（如声纹和虹膜扫描）验证身份正日益普及。苹果的Face ID大大推动了这类技术的普及。
未来，随着许多公司开始考虑元宇宙中的安全与保障，将身份验证体系去中心化，而不是集中在大型科技平台上，将让用户拥有更多控制权，或实现自我主权身份（SSI）。这样，用户就可以选择向公司分享哪些独特身份信息，在满足访问要求的同时，尽量减少所分享数据的数量和敏感程度。鉴于人们对机器人账号、冒名者、欺诈和虚假陈述的担忧，核实身份，或至少识别某个虚拟形象或身份是否已通过真实人物验证，将是实现安全网络体验的关键。
在网络约会领域，Tinder和Bumble已推出个人资料验证选项，以建立信任并提升安全性。在游戏领域，验证用户的成就和数字资产的能力，有助于增强人们对虚拟形象及整个环境的信任。
此外，年龄验证对于确保内容和体验适合相应年龄至关重要；然而，许多现有的年龄验证方式（如填写出生日期）很容易被绕过。用于年龄验证的面部分析技术正日益普及。这类软件会在图像中查找面部，再分析所需的信息，例如皱纹、日晒斑、白发等，以估算用户年龄。这不同于面部识别，后者旨在识别照片中的人物并收集其信息。Yoti是运用面部分析进行年龄验证的企业之一。该公司指出，其AI会读取每个像素并分析能够表明年龄的具体面部特征，并强调模型无法识别或认出用户。
Yoti首席政策与监管官朱莉·道森说：“年龄验证将在保护年轻人和提供适龄网络体验方面发挥关键作用。一旦知道儿童的年龄，就能满足《儿童守则》或《适龄设计守则》的要求。你可以提供适龄内容，防止儿童偶然接触露骨内容或访问有年龄限制的商品或服务，确保在线社区成员处于相同年龄范围，并关闭过多的通知。”
与Yubo和Instagram开展合作，显示出社交媒体平台准确核实用户年龄的需求日益增长。随着互联网未来不断演进，年龄限制将愈发重要，因为元宇宙中的新体验（如赌博或在虚拟影院观看电影）都需要设置年龄限制。
因曼·格兰特表示，现在正是为这些新应用落实安全设计实践和保护措施的时候，也就是它们仍处于开发阶段时。她说：“从一开始就纳入安全保护措施，比在危害发生后再补充或改造解决方案更容易、也更有效。除了减少危害、建立信任，持续采用安全设计视角还应被视为一种推动力，帮助企业提升整体安全标准，并更好地遵守澳大利亚及其他地区的网络安全监管框架。”
下一步是什么？
技术进步是否足够迅速地得到应用，以应对这些危害，仍有待观察。人们对这些技术的信任及其有效性，将成为持续提升网络安全工作的关键工具之一。贾斯廷·戴维斯强调：“企业高层必须优先考虑信任与安全，以推动技术应用并为网络安全充分配置资源。通过量化衡量，展示信任与安全对收入和增长的影响，是让高管支持信任与安全最有效的方式。”
同样，维德根指出：“现实情况是，信任与安全始终面临巨大的预算压力，至少在平台开始将其视为收入来源之前是如此——也就是说，把它视为吸引和留住用户不可或缺的一部分，而不是成本中心。”与此同时，降低这些技术的成本、提高其有效性和公众信任度，将对推动其应用起到关键作用。
因曼·格兰特说：“安全创新一直在发生，但它并非凭空出现。必须建立恰当的政策和监管环境，并在数字信任涉及的一系列要求之间取得适当平衡，包括安全保障和隐私。”
数字安全全球联盟正与主要利益相关方合作，推动一系列原则、技术、工具和政策框架的发展，以全面改善网络安全。技术进步是切实推动全球用户数字空间改善、并开始取得进展的核心途径。
