以下是如何提升当下及未来的数字安全

undefined
本内容由人工智能自动翻译。
  • 乌克兰遭入侵引发并加剧了诸多网络安全问题。

  • 各大数字平台一直在调整政策和做法,以应对这些问题,包括对人的剥削、错误信息和虚假信息,以及全球极端主义持续抬头。

  • 考虑到这些问题,新法规旨在解决平台问责、透明度以及用户在线安全等问题。

乌克兰遭入侵引发了诸多数字安全挑战,包括人口贩运和剥削案件增加、错误信息和虚假信息泛滥,以及暴力极端主义和恐怖主义活动激增。

人口贩运与剥削

前所未有数量的人口正逃离乌克兰的武装暴力,向西迁移。不法分子借此机会,将妇女和儿童作为目标,实施人口贩运和剥削。据汤森路透特别服务部门的数据显示,自人道主义危机开始以来,全球对“乌克兰色情”的搜索流量增加了600%,而对“乌克兰应召女郎”的搜索量增加了200%。欧洲安全与合作组织(OSCE)特别代表兼协调员办公室(OSR/CTHB)指出,如此需求为贩运者大规模招募和剥削乌克兰妇女提供了经济动机,而人口贩运的商业模式此时已在很大程度上转向线上。OSCE特别代表兼协调员办公室(OSR/CTHB)。

错误信息与虚假信息

有关乌克兰遭入侵原因的虚假信息——例如声称此举是为了让一个“失败国家”“去纳粹化”——一直在传播。关于乌克兰战争的许多错误信息都是以图像和视频的形式生成并传播的,而非新冠疫情期间占主导地位的文字内容。与文字内容相比,审核视觉内容中的虚假信息要困难得多,因为审核人员和自动化系统需要花费更多时间评估视觉内容。视觉内容对共同语言的依赖程度也较低,而且比文字更能引发强烈情绪,因此更容易、也更可能跨地区传播。

极端主义、仇恨与暴力之下的数字安全

早在乌克兰战争爆发之前,全球白人至上主义暴力活动就已被记录到呈上升趋势,与此同时,网络极端主义社群不断壮大。随着入侵发生,全球各类白人至上主义和极端主义团体面临一系列复杂影响。

主动式信任与安全初创公司ActiveFence发现,世界各地的极端主义新纳粹分子和白人至上主义者打着支持乌克兰的幌子推行其主张。反恐专家指出,克里姆林宫利用西方内部裂痕的行动中,一个关键环节是利用跨国白人至上主义者来推动种族和族裔动机驱使的暴力极端主义。

遗憾的是,数字渠道让人们更容易招募人员、筹集资金并推动与暴力极端主义和恐怖主义事业相关的活动,尤其是通过另类科技平台。兰德公司的一份报告描述了数字渠道的增长如何伴随着网络极右翼极端主义活动的增加。近期活动表明,公开宣传袭击事件并利用社交媒体已成为恐怖主义的新常态。

数字平台的应对

各大 数字 平台对入侵采取了总体反对立场,并一直在调整政策和做法,以打击俄罗斯的虚假信息和国家媒体。这些平台普遍团结起来保护乌克兰用户,并巩固与民主国家政府的关系,而非保持中立。人权观察组织及其他机构正在密切关注社交媒体公司的应对措施,包括采取超越屏蔽俄罗斯官方关联及官方资助媒体的行动。

这些决定为未来树立了先例,也引发了关于过去和当前冲突的问题。它们还凸显出必须回答的关键问题:

1. 应如何制定更广泛的战时规程和做法,以减少平台自行作出决定时产生的偏见?

专家建议,制定一套战时流程和规程,大致参照2019年新西兰基督城大屠杀后制定的规程,并在战事爆发时灵活结合具体情境加以应用,或有助于确保战时应对的一致性。

在冲突期间移除或以其他方式审核内容时,平台应依据既定的一套做法行事,以避免偏见和武断行动,并推动主动且系统化的平台治理。

2. 在危机时期,应如何调整关于内容审核速度、准确性及其他质量指标的衡量标准和预期?

重大冲突期间,作出正确的数字安全决策更加关键,但频繁的政策变动和海量内容增加了内容审核人员及系统准确执行规则的难度。目前,对于平台如何审核其网站上的内容和行为,在“充分”补救措施、响应时间及其他关键指标方面,还没有可强制执行的标准。

3. 平台应如何归档和保存暴力内容,以供取证?

公司依据其公布的政策移除描绘暴力的内容及其他违反平台规则的媒体,这样做是合理的。但考虑到此类内容在未来起诉战争罪时可能具有证据价值,应如何归档?

研究显示,人权观察组织以及伯克利人权中心、Mnemonic和WITNESS开展的研究发现,严重罪行的潜在证据正在消失,有时甚至无人知晓。各大数字平台应建立一致的做法和规则,对此类内容进行归档或以其他方式存储,确保未来有需要时仍可访问。

4. 应如何公开政策及其他数字安全决策以提升透明度?应建立哪些问责机制,以确保不同冲突地区和语言之间保持一致?

许多平台采取强硬立场应对俄罗斯入侵,确有其正当理由,但目前尚无可强制执行的规则或指导方针来确保此类决策的透明度。据报道,许多平台聘用或使用的审核团队语言能力不足,无法应对非英语地区有害内容泛滥的问题。

目前缺乏足够的语言覆盖能力和透明度指标,无法评估不同语言和地区的审核覆盖是否充分或公平,因此平台问责难以落实。战时这一问题的影响更加重大。

即将出台的法规包括《数字服务法》(欧洲)、《在线安全法案》(英国)以及澳大利亚的《基本在线安全预期》,旨在以多种方式解决平台问责、透明度和用户在线安全问题,并应对上述部分领域的挑战。诸如全球数字安全联盟等倡议也汇聚了公共和私营部门的领导者,探讨跨司法辖区的数字安全方法,使其具备系统性、一致性并经得起未来考验。

尽管乌克兰战争的长期影响尚待观察,但显而易见,各大数字平台为保护用户在线安全所采取行动的影响将在未来数年持续回响。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。