为保护互联网用户，尤其是儿童，媒体、科技公司和监管机构必须合作制定有效的解决方案。
目前，网络伤害几乎完全由科技公司负责应对，因此它们有许多关于如何切实应对这类伤害的经验可以传授给监管机构。
只有通过有效合作，才能防止网络伤害，让互联网成为对所有人都更安全的地方。
近年来，个人、政府和媒体对信任与安全的看法发生了变化。
事实上，如果谷歌趋势能说明问题，那么过去10年，公众对内容审核的关注度增长了25倍；内容审核正是信任与安全工作的核心职能。
但在这一领域，意见太多，合作太少。
大型科技公司、媒体和监管机构：三方对峙
直到最近，美国《通信规范法》第230条一直是网络安全领域的“基本规则”。该法于20世纪90年代中期颁布，限制了科技公司对其平台托管内容承担的责任。
30多年后，科技平台已被用于传播儿童性虐待材料（CSAM）、煽动暴力、散布仇恨言论、传播损害社会根基的虚假信息，以及直播恐怖袭击和斩首事件。尽管它们并非总要承担法律责任，但一直在缺乏立法机构指导的情况下处理复杂的社会问题，也因此面临严格审视。
立法缺失、合作不足，导致越来越多人认为科技平台、政府和媒体在有害内容问题上各执一端。有人指责平台限制言论自由，也有人指责平台从网络伤害蔓延中牟利。有人认为立法者管得太多，也有人认为他们越权；媒体则被视为煽风点火、推动公众审视。
不过，旨在为网络安全提供具体指导方针的新法律已经出台。欧盟《数字服务法》和英国《在线安全法案》旨在保障网络互动安全，但仍未考虑科技平台多年来积累的独特视角和专业知识。这可能会让我们错失制定全面网络安全解决方案的机会。
合作是防止网络伤害的关键
合作方式不仅可行，事实上也至关重要。以英国《适龄设计规范》为例。该规范于2021年9月推出，制定过程循序渐进；负责执行该规范的信息专员办公室直接与数十家科技平台沟通，并据此发布指导意见和澄清说明。
此外，我们也看到一些富有建设性的合作，参与方包括民间团体、科技平台和政府机构。例如，家庭网络安全研究所和失踪与受剥削儿童国家中心等团体，在儿童安全相关议题上充当科技公司与政府之间的调解方。5Rights基金会则支持英国监管机构制定儿童安全规范，例如《适龄设计法》。
这种合作方式也适用于内容审核。比如，一项看似简单的指令：一旦发现平台上存在有害内容，就应采取行动。当这些过去自愿采取的行动被纳入法律要求时，了解其细节和局限性便十分重要；要做到这一点，可以借助科技平台多年来积累的大量知识。
什么是有害内容？
如何判断什么算有害内容？只有直观呈现的儿童性虐待材料（CSAM）才算，还是对伤害儿童的文字描述也算？虚假信息又该如何界定？无害谎言与可能危害公共卫生的危险叙事之间，界线在哪里？
怎样才算合乎伦理的检测？
什么时候只需等待用户举报内容并由审核员处理，什么时候又需要采取更积极的措施？如果平台上分享的链接会将用户引向有害内容，是否也应检测这些链接，还是只应检测平台内的直接违规内容？隐私和加密存在哪些局限，可能妨碍主动检测？谁来教人工智能算法识别哪些内容？这些算法又如何理解烹饪节目中的刀具与袭击中刀具的情境差异？由内容审核员进行人工检测时，如何在保障平台安全的同时兼顾审核员的身心健康？
应采取哪些行动？
平台如何决定何时删除内容、为内容添加标签，或彻底移除用户？它们如何处理言论自由与免受伤害之间的问题？
考量还应包括有害内容的文化层面，以及跨境分享内容可能带来的法律后果。在一种文化中有害的内容，在另一种文化中可能并非如此；对于同一条内容，平台需要权衡在一个国家采取行动、在另一个国家不采取行动的后果。
采取执法行动是一把双刃剑：平台采取行动会遭到评判，不采取行动又会受到贬斥。
只有全面考虑各种情况，才能作出立法决定，将一些科技平台多年来一直在推动实施的流程变为强制要求。
内容审核中的平衡
内容审核需要在个人自由、多方利益相关者的需求、技术限制和预期结果之间取得平衡。只有通过合作才能做到这一点。
政府、科技平台和民间团体能够并且必须携手合作，以：
1. 了解潜藏在网络空间中的危害。 除了显而易见的威胁，各类滥用行为中的不法分子都会利用数字空间造成伤害。在采取行动之前，透彻了解他们的动机、手法和工具至关重要。
2. 分析复杂的挑战。从技术和伦理角度看，检测有害内容面临诸多挑战。我们必须了解科技公司实际上能采取哪些措施来应对这些网络伤害，以及这对用户隐私意味着什么。
3. 设计新的、更全面的解决方案。 这一问题的影响远远超出我们参与其中的数字空间。因此，应对其中一些网络伤害的行动不能只交由科技平台负责。
只有科技平台和监管机构以开放态度沟通、怀着真正合作的意愿并建立真诚的伙伴关系来共同应对这一问题，才能找到最佳解决方案，保护网络伤害的受害者。
