关于平台应对内容承担何种责任，争论分成了两个截然对立的阵营。一方认为，只有让平台对其服务上出现的内容承担严格责任，才能解决欺诈、骚扰、煽动暴力、激进化和政治操纵等确实存在的问题；另一方则认为，让平台充当警察会造就一类不受问责、权力强大的把关者，并摧毁社交媒体之所以能有力推动公民参与和民主运动的根本特质。
双方的论点都有依据，也各有大量案例。主张平台承担责任的一方会举出俄罗斯操纵选举、“假新闻”激增以及罗兴亚种族灭绝施害者利用 Facebook等例子。反对平台承担责任的人则指出，社交媒体在民众民主起义中发挥了关键作用，例如阿拉伯之春和“黑人的命也是命”运动；他们还指出，过度包揽、设计不佳的算法会造成“误报”，损害正当（甚至必要）的争议性言论；而试图删除有害内容也收效甚微。
社交媒体或许已把我们训练得习惯于走极端，这一点可见于当前讨论的选项似乎仅有两种：严格责任制度（通常包含“通知后删除”条款），或完全不干预，主张彻底放松监管，并对任何第三方内容免于承担责任。
当前中介平台治理举措的问题
要制定平衡且有效的方案，问题之一在于缺少真实数据。平台可能会发布“透明度报告”（自愿发布或依法律要求发布），但报告只关注量化指标，几乎无法说明平台所采取措施的成效或影响。
例如，德国《网络执行法》（NetzDG）出台后不久发布的首份透明度报告，列出某报告平台收到的投诉数量以及最终导致内容下架的投诉数量。这或许能表明平台并未过度包揽，正如一位专家所指出的；也可能在结合其他数据后，表明合法内容遭到了屏蔽，正如无国界记者组织所言。但报告并未告诉我们这些措施产生了什么影响。
这些报告优先关注量化指标而非定性指标，完全问错了问题。它们应该问：更积极地审核内容，能否解决我们试图应对的现实社会问题？如果能，代价又是什么？
现有证据表明，平台在内容审核方面实在不太在行。例如，多年来我们一直知道，要求平台对侵犯版权的第三方材料承担责任，会导致大量误报，进而造成内容下架，但显然对整体网络侵权几乎没有影响。最成功的版权内容审核系统Google 的 Content ID让 Google 花费了超过 6000 万美元进行开发和维护，却没有让任何人满意。
在平台进行跨国内容审核时，判断第三方内容是否侵犯他人版权，是最容易处理的情况。全球各地的版权法大体上（但并非完全）一致。判断过程是将一项作品与另一项作品进行比对，确定两者是否匹配。如果各国在例外和限制条款或侵权认定标准上的差异相对有限，却仍足以让 Content ID 这类昂贵而先进的系统难以应对，那么就不能合理期待平台和算法能够处理难度大得多、也更敏感的内容审核问题，例如仇恨言论、煽动暴力和淫秽内容。
轶事证据显示，平台在这方面处理得很糟，给发言者和更广泛的社群都可能带来重大代价。有些例子乍看微不足道，却影响深远。以 Facebook 新推出的政治广告身份识别系统为例，该系统屏蔽了名称中含有“Bush”或“Clinton”的普通企业广告。这不仅仅是造成不便，更让无辜企业面临一个实实在在的问题：它们无法在全球最大的社交媒体平台上投放广告。
与此同时，Facebook误将宣传政治报道的报纸屏蔽（却未能屏蔽许多政治广告），这不仅给报纸带来不便或收入损失，也使公众无法获得有关紧迫政治议题的新闻报道。在选举前几天无法推广重要报道，可能造成非常现实且有害的后果，而这些后果不会体现在只关注指标的透明度报告中。
更令人担忧的是，内容审核措施往往会以意料之外的方式影响弱势群体或传统上遭边缘化的社群，这一倾向令人不安。Facebook 的政治身份识别系统实际上禁止了无证移民在美国购买政治广告。Facebook 曾援引其社群规范，意外地删除了关于民权抗议活动的通知。如果目标是防止弱势社群和个人遭受暴力，那么在评估内容审核成效时，必须认真看待意外压制针对这类暴力进行报道和组织行动的情况。
推动在线平台为内容审核负责，可能会对整个社会产生侵蚀性影响，因为不受问责的大型企业以不透明且看似武断的方式实施监管。在美国，特朗普总统曾多次指责Google 搜索和其他社交媒体平台存在偏见。国会共和党人和保守派活动人士也多次提出类似指控。与此同时，进步派人士和有色人种社群则认为，社交媒体平台一贯歧视他们发布的内容。
这进一步削弱了我们对新闻报道的信任，损害社交媒体平台在公共领域公民讨论中的作用，并加深了对立政治阵营之间的社会分裂——各方都坚信，社交媒体平台不公平地偏袒对手。更令人忧虑的是，这会促使社交媒体平台面对当权者以加强监管相威胁时，更积极地推广旨在讨好这些政客的内容。
我们需要探索其他选择
在最近再版的著作《互联网垃圾场》中，莎拉·郑（她本人也曾遭受有组织的网络骚扰）指出，互联网早期对检测和删除的关注，使保护弱势用户的所有努力都狭隘地集中在这两种做法上。但正如郑所解释的：“任何专注于检测和删除的骚扰循环都注定会原地打转。”然而，这并不意味着我们必须袖手旁观。“删除应被视为工具箱中的一种工具，而非最终目标，”郑总结道。“因为删除并非胜利，也不意味着获得自由或摆脱恐惧。它只是删除。”
每一种新的电子大众传播方式出现后，我们都必须重新思考如何防止煽动仇恨者、蛊惑人心的政客和罪犯利用它。例如，各国制定法律，防止人们利用电话实施欺诈或威胁他人。这些法律既不只关注简单地发现并删除内容，也不把责任完全推给电话公司或广播机构。同时，法律也旨在顾及言论自由和正当程序方面的关切。一般而言，这类方案会将某些新技术用途定为犯罪，要求广播机构或网络运营商在一定程度上开展合作并履行报告义务，规定某种形式的司法正当程序，并针对迫在眉睫的伤害情形设置例外。
这些方案并不完美，但代表着社会在武断行事的私人把关者与无能为力之间找到了一种务实可行的平衡。各国应认真探索在社交媒体领域实现类似且恰当、务实、可行的平衡。没有人认为，过去规范传播活动的方案本身就足以解决问题，但我们应从研究这些方案开始。
简而言之，现在应该摒弃两种极端做法：要么要求平台“删除”，要么要求政府“袖手旁观”。各方利益相关者必须携手承认两项基本原则：现状对个人和民主规范而言危险得令人无法容忍；但平台也不可能凭空让不良内容消失，而不对个人和整个社会造成切实代价。只有政府和各方利益相关者接受这一现实，真正有效地应对危险在线内容的工作才能开始。
