社交媒体的内容审核应该放松还是收紧？
一些国家正在加大力度，保护社交媒体用户免受有害内容的侵害。 Image: 路透社/ Elizabeth Frantz
- Telegram创始人兼首席执行官被捕，使人们加强了对目前社交媒体平台内容审核方式的审查。
- 一位专家称，“未来几年会很棘手”，要在加强保障措施和言论自由的需求之间取得平衡。
- 一些国家正专注于研究提高相关透明度和加强保护的方法。
去年10月，哈马斯对以色列发动突然袭击，随后不久，该恐怖组织的Telegram频道就充斥着暴行的图片。
对此Telegram的回应是什么？这些频道受到了限制，但据报道效果极为有限。
帕维尔·杜罗夫（Pavel Durov）被迫留在法国，因涉嫌在其广受欢迎的平台上参与犯罪活动而受到调查。他在自己的频道上发帖说：“我被警方审讯了4天。如果创新者知道他们可能要为这些工具存在被滥用的可能性而承担个人责任，那么他们永远都不会开发新的工具。”
突如其来的法律审查引出了一个问题：这些平台服务通常是如何进行内容审核的？也就是说，人们希望它们怎么进行审核？
正如我们日益自动化的生活中许多其他方面一样，人类仍然扮演着核心角色。在办公室隔间里盯着屏幕，快速做出内容审核决定的合同工，可能已经被人工智能和机器学习取代，即便如此，经常工作过度、不受重视的人仍然是不可或缺的最后一道防线。
然而，战略对话研究所首席执行官Sasha Havlicek认为，人们在逐渐失去对当前工作方式的耐心。她说：“各个平台的内容审核工作都存在持续性、系统性失败。”
内容审核被称为互联网最难解决的问题是有原因的。
在许多方面，这一机制都被忽视了，但实际上它是一些企业的最后一层保障，因为这些企业都希望吸引大量观众，并在此过程中获得他们可能产生的最强烈反应。但对于哲学家们思考了几个世纪的“表达权”的问题，审核人员可能被要求立即做出裁决。
当然，有些决定就是比其他更容易。
Havlicek将明显非法和有害的活动称为问题的“尖端”，而与之相对的则是“糟糕但合法”的灰色地带，这种情况更难监管。Havlicek表示，尽管如此，在世界上的许多地方，尤其是非英语国家，即使是“尖端”问题也经常能通过审核。
但Havlicek警告：“过度煽动”那些言论自由绝对主义者“是有危险的”，因为他们已经把监管社交媒体的努力视为压制性的审查，“因此，未来几年会很棘手。”
缺乏熟练的内容审核人员似乎一个能轻易解决的问题。
最大的一些社交媒体平台为遵守欧盟的《数字服务法案》（据Havlicek认为，虽然这一法案刚出台不久，但有可能“改变游戏规则”）而披露的信息中，包括精通当地语言的审核人员人数。例如，X的最新报告显示，有1535名审核人员精通英语，29名精通西班牙语，2名精通意大利语，1名精通波兰语。
Havlicek说：“即使在每个国家都有20个内容审核人员，也感觉有点少。这些是目前内容审核服务最好的市场，所以你可以想象其他地方的情况。”
自动化的理想候选者？
如今，内容审核人员所承受的心理压力已广为人知。这甚至成了一部百老汇戏剧的内容基础。据Playbill介绍，《约伯记》（JOB）的主人公是一位饱受困扰的女性，她“必须从互联网上删除一些最难以理解的恶劣内容”。
Havlicek说：“现在从事这项工作的人并没有得到应有的报酬或保护。”
审核人员已在多个国家提起相关诉讼。新闻报道中令人瞠目的描述至少已经发表了十年。Havlicek所在的组织与各国政府和平台合作，制定了一条更安全、更稳定的发展道路，该组织自身也有一个团队在开展相关研究；组织还对研究时间制定了严格的时间规定，且强制提供心理咨询服务。
所有这些似乎都使内容审核成为自动化的理想候选者。但对于更复杂的问题，例如对讽刺手法的判断，或对特定政治局势的深入分析，仍然需要技术熟练的人类工作者。
纵观全局，Havlicek说，这不仅仅是删除或标记有问题的内容，实际上是关于内容管理系统的问题。也就是说，那些用来吸引用户并增加广告收入的算法设计是如何扭曲环境，将人们推向更“极端的空间”。
Havlicek说，在这一点上，各平台在识别“国家行为者的信息行动”方面已经有了很多实践经验，但它们还是很难跟上不断变化的策略。
她说：“我们需要证明，像《数字服务法案》这样的法案是可行的。”
只有被视为“非常大”的在线平台才有义务遵守该法案。服务平台应该对用户安全负责，Havlicek说，“尤其是在用户基数大到足以对整个社会产生影响的时候。”
Telegram还没有做到这一点，但已经很接近了。
许多人都认为，如果审核工作做得好，就不会有人注意到，Telegram就是其中之一。杜罗夫在自己的频道上写道：“一些媒体声称Telegram是某种无政府主义的天堂，这绝对不是事实。我们每天都会删除数百万条有害帖子和频道。”
Telegram最近发布了一份内容审核员招聘启事，要求应聘者具备较强的分析能力和“快速反应能力”。
在被捕前的五个月左右，杜罗夫曾表示“所有大型社交媒体应用程序”的内容审核工作“都很容易受到批评”。他承诺，Telegram将以“高效、创新、尊重隐私和言论自由”的方式来解决问题。
被捕后，他写道：“在隐私和安全之间找到正确的平衡并非易事。”但他的公司将坚持自己的原则。
第二天，他宣布Telegram的付费用户已达1000万，并加上了一个表示庆祝的表情符号。
更多关于内容审核和当前威胁的阅读
如需了解更多相关信息，以下是世界经济论坛战略情报平台提供的更多阅读链接，：
- 内容审核并不是一个长远的解决方案。一位资深研究人员认为，加大对本地新闻业的投资、提高媒体素养、提供更好的事实核查工具都很有必要。(康奈尔大学）
- 一篇报道称，政客长期以来一直在抱怨Telegram的运营方式，现在他们的回应发生了变化。（《连线》）
- 分析认为，民主国家必须通过更严格的监管，积极保护自己免受社交媒体服务内容带来的“混合”威胁。(澳大利亚战略政策研究所）
- “自政变以来，支持军政府的人利用了Telegram不受限制的内容审核方式。”这篇分析深入探讨了热门服务平台自我审查历史上的高潮和低谷。(卡内基国际和平基金会）
- “正当言论与不正当言论之间的区别往往模糊不清。”美国最高法院最近审理了一起案件，观察员希望此案能揭示政府能迫使平台遏制不良内容的能力。但他们失望了。(电子前沿基金会）
- “利用自由流动的信息进行破坏与颠覆是除了战争以外的最佳武器。”这篇报道探讨了“外国行动者”在英国最近由社交媒体引发的骚乱中所扮演的角色。(英国皇家联合军种国防研究所）
- 自由的政治表达何时变成了“激进化”？这篇分析将法国当前的政治危机与社交媒体上极右内容形成回声室效应的容易程度联系起来。(伦敦政治经济学院）
本文作者：
John Letzing，世界经济论坛数字编辑
本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。
翻译：孙芊
编辑：王灿
不要错过关于此主题的更新
创建一个免费账户，在您的个性化内容合集中查看我们的最新出版物和分析。
许可和重新发布
世界经济论坛的文章可依照知识共享 署名-非商业性-非衍生品 4.0 国际公共许可协议 , 并根据我们的使用条款重新发布。
世界经济论坛是一个独立且中立的平台，以上内容仅代表作者个人观点。
实时追踪：
Disinformation
分享：
每周 议程
每周为您呈现推动全球议程的紧要问题（英文）
