• 网上有害内容的数量正在迅速增加。
  • 混淆和缺乏通用方法是取得进展的障碍。
  • 一项新的举措旨在促进媒体部门之间的合作。

互联网使我们的生活在很多方面变得更加轻松。我们可以在网上购买商品,然后马上送货上门。我们可以找到和我们一样喜欢稀有品种狗的人,在Instagram上和他们分享无数照片。我们可以对内容——无论是有趣的表情包还是突发新闻——实时做出反应。

但是,我们大多数人在教育、娱乐或与社交时所享有的无缝体验也已被那些想要制造伤害的人利用了,因为互联网在速度、范围、接入和效率方面对所有用户一视同仁。

内容在网上自由而丰富地流动着。每分钟有500个小时的视频被上传到YouTube243000张照片被上传到Facebook。不幸的是,有害内容也以这样的规模而扩散。过去一年,网上传播的儿童剥削图片数量翻了一番,达到4500万张。仅在Facebook上,2019年第三季度就删除了1160万条关于儿童裸体和儿童性剥削的内容,这一数字比上一季度大幅增加。骚扰和霸凌、恐怖主义宣传以及利用虚假账户发送垃圾邮件或欺诈也在许多网站上蔓延。

很难解释有害内容的增加在多大程度上是由于这类内容的更广泛传播,而检测这些内容以及对其采取强制行动的改进跟不上它们的步伐。不管怎么说,网络空间正被剥削者和其他坏人以前所未有的方式用来加快从事非法和有害的活动。许多人认为,这类活动一直都存在,只是开放网络现在才刚刚发现。然而,数字化颠覆创造了一种无摩擦的用户体验,向基于最大参与程度的广告商业模式的转变使得所有类型的内容都能更快、更容易达到大规模。但是,既然掌握了这么多技术和知识,为什么我们没有在“清理”网络空间方面取得更大成功?

其中一个原因是问题本身被混淆了。一些科技公司的高管将言论自由与接受审查的互联网相提并论,导致人们在这个问题上走极端。用“网络有害内容是否需要被屏蔽”的观点来考验我们是否愿意坚持言论自由,意味着那些承担责任的人可以避免采取行动,继续照常经营。正如伯克利法学教授John A. Powell在《纽约时报》的这篇文章中所说:“我们的确需要保护发言者的权利,但其他人的权利又如何保护呢?”

尽管私营公司不受《第一修正案》的约束,但我们大多数人仍然认可在公共数字领域维护言论自由的重要性。但这应是对话开始的地方,而不是结束的地方。为了推进这一重要对话,我们还需要认识到,人们不能以言论自由的名义侵犯他人的人权。美国司法部的一份报告指出,性勒索是儿童面临的最大威胁——这只是数字伤害对现实世界影响的一个例子。美国联邦调查局的一项研究发现,超过四分之一的性勒索案件会导致自杀或未遂自杀。到目前为止,对该问题的分析方式提出了一种误导且危险的错误选择;这并不是要威胁言论自由,而是要重视所有措施得当的保护手段,使人们不会以言论自由的名义受到伤害。这将有助于确保每个人最终都能感到安全,并有发言权。

解决这个问题的另一个主要难点在于,当涉及到有害的在线内容时,缺乏通用的方法、术语以及对权衡取舍的理解。仇恨言论和假新闻等话术使内容问题变得同质化,并存在明显的差异。公共和私营部门的责任、采取行动的预期时间表以及它对公众造成的风险因内容类型而大不相同。每个平台都有自己的类别和透明度指标;对于希望自己的产品广告放在哪些内容旁边,每个在平台上做广告的消费类品牌都有自己的风险设置。尽管在整个媒体生态系统中一致使用术语和报告是一项挑战,但在已达成更多共识的领域——例如剥削儿童和极端主义内容——可能是协调处理有害内容的起点。

用户级的问题也很复杂。鉴于绝大多数成年人关心的是公司如何使用它们收集到的有关自己的私人数据,大多数人可能更愿意使用隐私和加密程度更高的服务。然而,据估计,如果或使用端到端加密,通过CyberTipline举报的儿童性侵案件数量会减半。隐私与有害内容检测之间的权衡并没有明确地告知消费者。无论如何,用户的购买力不足以影响平台上的决策,而这些平台上的大部分收入是由广告主驱动的。

从市场的角度来看,当前媒体商业模式并非先天不足。实际上,如果消费者(获得免费服务),品牌广告商(获得影响力),平台(获得收入)和内容创作者(获得资助)都能顺风顺水,这将是全方位的共赢。然而,如果想要创建或共享有害内容的人利用这种参与方式,对社会的风险将远远超过对市场效率的好处。一个名为“全球负责任媒体联盟”的计划旨在帮助推动整个媒体行业的罕见合作,因为它们认识到——品牌广告费是平台上内容创作者的主要资金来源,因此,帮助推动变革,既是广告主的责任,也是它们的权力。

无论是在克赖斯特彻奇直播的恐怖袭击,还是十年前上传至网上的一名学生被残忍杀害的视频,这些有害内容对社会的影响都是巨大的。随着我们的数字世界和现实世界不断碰撞,我们的网络安全——基于我们创建、观看和分享的内容——将成为我们的个人安全。争论到此为止,无需再多说。

世界经济论坛如何改善网络安全?

目前,全球有近38亿人在线,数字世界不仅带来了巨大的收益,而且构成了有害内容的风险。

由世界广告主联合会创建的全球负责任媒体联盟(GARM)通过与世界经济论坛媒体、娱乐与文化平台合作,扩大其影响力,改善数字环境的安全性,从而解决有害和误导性媒体的问题,同时保护消费者和品牌。

GARM致力于确保消费者的安全,降低广告主的风险,为数字平台打造信誉,从更广泛的角度来说——确保一个可持续发展的在线生态系统。

该联盟正与世界经济论坛的产业、学术、公民社会和公共部门合作伙伴网络合作,加强其在数字安全方面的工作,并确保消费者及其数据在更健康的媒体生态系统中得到在线保护。

企业可以加入世界经济论坛塑造未来媒体、娱乐与文化平台,并申请与该联盟以及类似计划合作。要想了解更多内容,请阅读我们的“影响力故事”或联系我们

本文作者:

Farah Lalani, 媒体、娱乐和信息产业社区执委,世界经济论坛

Cathy Li, 媒体、娱乐和信息产业总监,世界经济论坛

本文原载于世界经济论坛Agenda博客,转载请注明来源并附上本文链接

编辑:王思雨