社交媒体的内容审核应该放松还是收紧？

去年10月，哈马斯对以色列发动突然袭击，随后不久，该恐怖组织的Telegram频道就充斥着暴行的图片。

对此Telegram的回应是什么？这些频道受到了限制，但据报道效果极为有限。

Telegram一直以来努力塑造其作为言论自由堡垒的声誉，有时对自由的维护甚至过于极端，在将近一年后，这一声誉因其创始人兼首席执行官在巴黎被捕而受到了影响。

帕维尔·杜罗夫（Pavel Durov）被迫留在法国，因涉嫌在其广受欢迎的平台上参与犯罪活动而受到调查。他在自己的频道上发帖说：“我被警方审讯了4天。如果创新者知道他们可能要为这些工具存在被滥用的可能性而承担个人责任，那么他们永远都不会开发新的工具。”

突如其来的法律审查引出了一个问题：这些平台服务通常是如何进行内容审核的？也就是说，人们希望它们怎么进行审核？

正如我们日益自动化的生活中许多其他方面一样，人类仍然扮演着核心角色。在办公室隔间里盯着屏幕，快速做出内容审核决定的合同工，可能已经被人工智能和机器学习取代，即便如此，经常工作过度、不受重视的人仍然是不可或缺的最后一道防线。

然而，战略对话研究所首席执行官Sasha Havlicek认为，人们在逐渐失去对当前工作方式的耐心。她说：“各个平台的内容审核工作都存在持续性、系统性失败。”

内容审核被称为互联网最难解决的问题是有原因的。

在许多方面，这一机制都被忽视了，但实际上它是一些企业的最后一层保障，因为这些企业都希望吸引大量观众，并在此过程中获得他们可能产生的最强烈反应。但对于哲学家们思考了几个世纪的“表达权”的问题，审核人员可能被要求立即做出裁决。

当然，有些决定就是比其他更容易。

Havlicek将明显非法和有害的活动称为问题的“尖端”，而与之相对的则是“糟糕但合法”的灰色地带，这种情况更难监管。Havlicek表示，尽管如此，在世界上的许多地方，尤其是非英语国家，即使是“尖端”问题也经常能通过审核。

“现在情况很有趣，除了美国，五眼联盟和欧盟基本都在朝监管的方向发展。”她提到了五个在情报搜集工作方面有合作的英语国家（澳大利亚、加拿大、新西兰、英国和美国）。

但Havlicek警告：“过度煽动”那些言论自由绝对主义者“是有危险的”，因为他们已经把监管社交媒体的努力视为压制性的审查，“因此，未来几年会很棘手。”

缺乏熟练的内容审核人员似乎一个能轻易解决的问题。

最大的一些社交媒体平台为遵守欧盟的《数字服务法案》（据Havlicek认为，虽然这一法案刚出台不久，但有可能“改变游戏规则”）而披露的信息中，包括精通当地语言的审核人员人数。例如，X的最新报告显示，有1535名审核人员精通英语，29名精通西班牙语，2名精通意大利语，1名精通波兰语。

Havlicek说：“即使在每个国家都有20个内容审核人员，也感觉有点少。这些是目前内容审核服务最好的市场，所以你可以想象其他地方的情况。”

如今，内容审核人员所承受的心理压力已广为人知。这甚至成了一部百老汇戏剧的内容基础。据Playbill介绍，《约伯记》（JOB）的主人公是一位饱受困扰的女性，她“必须从互联网上删除一些最难以理解的恶劣内容”。

Havlicek说：“现在从事这项工作的人并没有得到应有的报酬或保护。”

审核人员已在多个国家提起相关诉讼。新闻报道中令人瞠目的描述至少已经发表了十年。Havlicek所在的组织与各国政府和平台合作，制定了一条更安全、更稳定的发展道路，该组织自身也有一个团队在开展相关研究；组织还对研究时间制定了严格的时间规定，且强制提供心理咨询服务。

所有这些似乎都使内容审核成为自动化的理想候选者。但对于更复杂的问题，例如对讽刺手法的判断，或对特定政治局势的深入分析，仍然需要技术熟练的人类工作者。

纵观全局，Havlicek说，这不仅仅是删除或标记有问题的内容，实际上是关于内容管理系统的问题。也就是说，那些用来吸引用户并增加广告收入的算法设计是如何扭曲环境，将人们推向更“极端的空间”。

而在地缘政治阴谋愈演愈烈，选举又悬而未决之际，这个问题尤其令人担忧。如果传播虚假信息所需要的只是简单地放大那些本来就已经存在的声音呢？美国司法部在最近的起诉中指控了一家公司存在这种嫌疑。

Havlicek说，在这一点上，各平台在识别“国家行为者的信息行动”方面已经有了很多实践经验，但它们还是很难跟上不断变化的策略。

Havlicek说，像欧盟《数字服务法案》这样成熟的措施可能会大有裨益。该法案的一个关键内容是允许独立研究人员访问平台数据。这是为了提高透明度，更好地评估风险。

她说：“我们需要证明，像《数字服务法案》这样的法案是可行的。”

只有被视为“非常大”的在线平台才有义务遵守该法案。服务平台应该对用户安全负责，Havlicek说，“尤其是在用户基数大到足以对整个社会产生影响的时候。”

Telegram还没有做到这一点，但已经很接近了。

许多人都认为，如果审核工作做得好，就不会有人注意到，Telegram就是其中之一。杜罗夫在自己的频道上写道：“一些媒体声称Telegram是某种无政府主义的天堂，这绝对不是事实。我们每天都会删除数百万条有害帖子和频道。”

Telegram最近发布了一份内容审核员招聘启事，要求应聘者具备较强的分析能力和“快速反应能力”。

在被捕前的五个月左右，杜罗夫曾表示“所有大型社交媒体应用程序”的内容审核工作“都很容易受到批评”。他承诺，Telegram将以“高效、创新、尊重隐私和言论自由”的方式来解决问题。

被捕后，他写道：“在隐私和安全之间找到正确的平衡并非易事。”但他的公司将坚持自己的原则。

第二天，他宣布Telegram的付费用户已达1000万，并加上了一个表示庆祝的表情符号。

如需了解更多相关信息，以下是世界经济论坛战略情报平台提供的更多阅读链接，：

在战略情报平台上，您可以找到有关虚假信息、媒体、司法和其他数百个主题的专家分析。您需要注册才能查看。

本文作者：

John Letzing，世界经济论坛数字编辑

本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。

翻译：孙芊

编辑：王灿