数字世界对儿童而言阴暗而危险——我们可以这样改变现状

undefined
本内容由人工智能自动翻译。

今年,万维网迎来诞生30周年。在这段时间里,互联网改变了我们生活的方方面面,从学习和工作方式,到推动经济增长、扩大市场准入。

今年也是联合国《儿童权利公约》通过30周年。该公约是全球获批准最广泛的公约。在纪念这两个周年之际,我们有必要审视这项变革性技术对儿童的影响。它带来诸多益处:让儿童能够获取信息、接受教育和享受娱乐,也是重要的沟通工具。但与任何技术一样,它也可能遭到滥用,使儿童面临风险和伤害。我们必须扪心自问:如今的数字世界对儿童而言安全吗?

如今,全球每年有超过50%的儿童遭受暴力。2015年,世界各国通过了可持续发展目标(SDGs),体现了全球对所有人拥有更美好未来的共同承诺。可持续发展目标16.2呼吁到2030年终止一切形式的针对儿童的暴力;具体目标9.C呼吁扩大宽带覆盖,让发展中国家尚未联网的人群接入网络,而世界上大多数儿童生活在这些国家。

要实现这两项目标,我们迫切需要优先保障儿童的网络安全。每天,儿童在网上接触到更多暴行,我们也不断了解到网络连接如何助长对儿童权利的侵犯。我们有责任找到办法,在不剥夺儿童享受数字世界益处的同时,让他们上网更安全。

我们正在采取哪些措施,让儿童上网更安全?

一些国家已建立监管框架来管理网络空间,其方式类似于对线下空间的监管。英国和澳大利亚在保护儿童网络安全方面处于领先地位。两国制定了企业必须遵守的设计安全和默认安全规范,推出了适合儿童的条款和条件,并任命专员负责保护儿童在数字空间中的权利。

该领域的专家制定了各种倡议和工具,引导各国和企业在决策过程中推动营造更安全的网络空间。其中包括“我们保护”国家应对模式框架、《儿童权利与商业原则》(CRBP)——由救助儿童会、联合国儿童基金会和联合国全球契约组织制定——以及国际电信联盟(ITU)的《儿童网络保护指南》等。

NetClean等公司开发了工具,可帮助检测商业环境中计算机上的儿童性虐待图像和视频。非政府组织Thorn开发了一种工具,可直接部署到公司的平台上,用于识别、删除和举报儿童性虐待材料(CSAM)。Thorn还举办黑客马拉松,打击儿童性虐待和剥削。另一款产品Griffeye利用人工智能(AI)扫描此前尚未分类的内容,将其与已知CSAM内容的特征进行比对,并标记可疑项目供审核人员审查,从而帮助加快调查。

此外,微软开发了PhotoDNA,这款工具可为图像生成哈希值,并将其与已识别并确认属于CSAM的哈希值数据库进行比对。Facebook、Snapchat、Twitter和Google与执法机构、各国政府及非政府组织密切合作,共同开发打击网络儿童虐待和剥削的工具与方法。

我们做得够吗?

今年年初,《经济学人》智库发布了《走出阴影指数》,用于衡量60个国家应对儿童性虐待和剥削的情况。这项新工具也考察了信息与通信技术(ICT)行业应对儿童网络性暴力的情况。该指数及对部分宽带专员的调查表明,我们做得还不够;没有任何国家建立了完善的儿童网络保护体系。

互联网上的儿童性虐待材料数量逐年增加。仅去年,科技公司报告了4500万张描绘儿童遭受虐待的照片和视频。我们甚至不知道这些内容占全部图像的多大比例。

《纽约时报》最近的一项调查《纽约时报》指出,“许多科技公司未能充分监管其平台上的性虐待图像,或者在发现这些图像后未能与当局充分合作。”遗憾的是,在大多数国家,企业都没有强制报告义务。


我们能做些什么,让数字世界对所有儿童都更安全?

根据最新《儿童网络安全报告》的建议,我们需要:

  • 建立健全、有效且可执行的法律框架,保护儿童权利;

  • 培育积极促进儿童安全的企业文化;

  • 教育儿童了解他们在线上和线下享有的权利;

  • 教育儿童、父母、家庭成员、照护者、教育工作者、卫生专业人员和社区领袖,帮助他们了解如何在数字世界中保障安全;

  • 提供适合相应年龄的在线产品和服务,以降低风险(这包括儿童正在使用的所有解决方案)。

我们需要牢记,儿童和施害者并非虚拟存在,而是真实的人。我们还需要以技术解决方案和资金支持执法机构,使他们能够尽快解救更多儿童并逮捕更多施害者。

我们需要所有利益相关方合作,多管齐下地提升儿童网络安全水平。私营部门也需要提供更多支持、投资、参与和技术专长。

我们有机会,也有义务让数百万儿童免受不必要的痛苦。若不这样做,我们的社会将无法从数字化转型中获得最大益处。只有每个人都发挥作用,才能营造更安全的网络环境。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。