保护还是审查：如何在遏制网络虚假信息中找到平衡点？

2025年4月22日

在世界经济论坛2025年年会的“选举中的真相与谬误”专题讨论会上，嘉宾们就网络虚假信息展开深入讨论。 Image: World Economic Forum/Faruk Pinjo

Jesus Serrano

Reputation and Crisis Management Lead, Global Communications Group, World Economic Forum

本文章是的一部分

在世界经济论坛2025年会的两场小组讨论会上，与会嘉宾们讨论了解决网络虚假信息问题时必须达成的平衡。
我们如何能在阻止虚假信息的同时维护言论自由？这一问题十分复杂，使得达成共识变得极具挑战性。
我们认为，应对虚假信息挑战有以下五大优先事项。

阴谋论、虚假信息和假新闻早已不再局限于互联网的边缘地带，它们如今已渗透进主流舆论，影响选举、扰乱市场、挑战言论自由的边界。正如世界经济论坛《2025年全球风险报告》所揭示的，虚假信息已连续第二年被评为最严重的短期全球风险，它侵蚀信任、加深社会分裂、削弱治理与全球协作。在技术迅猛发展的背景下，相关监管却明显滞后，使这一风险持续加剧。

世界经济论坛2025年年会上的两个重要议题——“选举中的真相与谬误”和“内容该不该审查？”深入探讨了虚假信息的蔓延、内容审查的两难选择，以及如何在民主诚信、人权保障与技术创新之间取得微妙平衡。尽管与会嘉宾一致认为，当前的发展轨迹难以为继，但如何在数字平台的复杂局势中寻求共识仍是难题：平台既要遏制有害内容，又不能损害言论自由或进一步加剧社会对立。

虚假信息：对民主的威胁

2024年，全球有一半人口参加了选举，而虚假叙事和误导性信息却在全球范围内塑造了政治格局，进一步加剧了地缘政治的碎片化。

以摩尔多瓦为例。该国总理Dorin Recean指出，外国虚假信息网络通过AI生成的深度伪造视频干预选举，视频中展示穿着军装、站在欧盟旗帜前的儿童，误导公众“加入欧盟就等于战争将至”。“他们试图将欧盟与战争挂钩，说‘看看乌克兰的下场，如果你们想加入欧盟，摩尔多瓦也将步其后尘’。”Dorin Recean警告道，并透露摩尔多瓦GDP2.5%被用于应对虚假信息攻击。

Image: 世界经济论坛

治理与节制：线下规则，线上现实

随着各国政府开始认识到虚假信息的影响，欧盟委员会的《数字服务法案》正成为问责制讨论的基准。“线下违法的事情，线上也同样违法，”法国欧洲事务部长Jean-Noël Barrot宣称。“算法的透明度不容置疑，”他辩称。“在法国，种族主义或恐同言论是违法的，可以接受法院的审判，因此平台在网上也应该遵循同样的规则。在虚假信息方面，这一法案要求平台采取措施，降低虚假信息带来的系统性风险。这一点正变得越来越重要，尤其是考虑到年轻一代接触信息的方式。”

然而，战略对话研究所的Sasha Havlicek告诫人们不应将问题简化。恶意行为者正在利用数字平台的开放性，通过僵尸网络和虚假账户操纵公共话语，这些手段对普通用户几乎是“隐形”的。她表示：“算法基础设施会放大任何最有可能吸引你的东西。注意力经济的商业模式会不成比例地放大最耸人听闻、最极端的东西，而不是温和的东西。”

对数十亿用户进行内容审核并非易事。内容审核在技术上依然复杂，在政治上也存在争议。据欧盟民主、司法和法治事务专员Michael McGrath称，仅在2024年，顶级平台就审核了16亿条内容。“言论自由必须得到保护，这一点毋庸置疑。这是不容谈判的。但需要采取一些措施来达到适当的平衡，”他补充道。

大规模内容审核存在诸多隐患。人权观察组织前执行主任Tirana Hassan强调，审查政策必须以人权原则为基础，以防止其被滥用。“内容审查的目的应是保护，而不是噤声。过度监管有可能为威权控制铺路。”她表示，“在内容审查方面，无论是技术手段还是人工方式，只要投资得当，既可以达到法律要求，也并不与言论自由相冲突。”

她同时强调，应重点保护网络中的弱势群体。在某些情况下，这些人被有意诱导和曝光，从而面临人身伤害甚至被迫流离失所的风险。

联合国人权事务高级专员Volker Türk警告说，“很多此类产品最终都用于危机或冲突局势，我们必须承担更大的责任，确保它们不会被用来剥夺人性或煽动更多暴力”。

人工智能：放大器还是解药？

与此同时，科技公司面临着一个悖论。一方面，生成式AI加剧了虚假和误导性内容的传播；另一方面，它又可能成为识别与过滤此类内容的有效工具。问题的一部分根源于平台的结构设计及算法逻辑——这些系统往往会意外地放大内容传播带来的社会后果。

Sasha Havlicek认为，基于“参与度优先”的算法机制倾向推送具有争议性的内容，而非真实或有益的信息。“在注意力经济驱动下，网络平台并不是一个言论自由的环境，而是一个高度策划的内容呈现空间，科技巨头依据收集到的数据和自身的盈利目标来决定你看到什么。”

更令人担忧的是，问题不仅出在平台本身。根据《2025年爱德曼信任度晴雨表》，全球40%的人表示认同“激进行动”，包括在网上攻击他人或故意传播虚假信息，只要这种手段能推动他们支持的社会变革。尤其是在18至34岁人群中，这一比例高达53%。这一趋势揭示了一个加深中的信任危机：越来越多个人正在采用过去被视为不道德的手段。

应对虚假信息的五大优先事项

世界经济论坛2025年年会的这两场会议不仅分析了虚假信息的影响和社交媒体内容审查的困境，也为未来行动提供了方向。以下是应对虚假信息挑战的五大优先事项：

以透明为工具：平台应开放其内容推广机制，允许外部监督。Sasha Havlicek指出：“威权政权用审查对抗虚假信息，而我们必须以彻底透明作为回应。这意味着独立研究机构应获得数据访问权限，评估平台系统对公共话语的影响。”
媒体素养教育：教育与批判性思维是抵御虚假信息最有效的“疫苗”。《华尔街日报》首席执行官Almar Latour强调：“帮助年轻人学会辨别信息真伪至关重要，但这种教育必须保持中立，核心是教会人们如何独立思考。”
多方共同治理：政府、科技公司和民间社会应共同制定规则，同时保护言论自由与公共安全。审查应当是为了保护，而非压制。如果缺乏透明，我们有可能用另一种形式的‘信息扭曲’来替代虚假信息——即由极少数人决定公众能看到什么。图尔克补充说：“我们需要开放的公共空间，基于事实、证据与科学开展讨论，找出世界迫切需要的政策解决方案。”
符合道德的技术设计：平台应将用户安全放在首位，因为近50%的儿童会意外接触有害内容。“我们专为16岁以下用户构建了一个网络中的‘正能量角落’，这是我们非常重视的项目，目的是确保最弱势群体的网络安全。”Pinterest法务与商务事务负责人Wanji Walcott说道。WeProtect全球联盟的Iain Drennan也强调了保护未成年人的紧迫性，呼吁制定“以安全为导向的设计规范与监管机制”。
平衡的内容审查机制：高效的内容审查需要精准且有度的方法，既能保障言论自由，也能防止伤害。“言论自由不是绝对的。为了保护最弱势群体，必须施加一定限制。平台有责任确保其商业模式、政策与技术符合国际人权标准。”Tirana Hassan指出。

真相不会自我审查

在打击虚假信息方面，新闻工作者和民间组织需要发挥关键作用。他们可以通过调查性报道、事实核查和公众教育来反制不实信息。Almar Latour特别强调保持编辑独立性和透明度对于重建公众对媒体的信任至关重要。“有人认为虚假信息在过去一年（与选举相关的）中没有发挥重要作用，这种说法荒谬至极。这完全是误导，”他补充道。

开放辩论是民主的生命线。重建信任的关键不在于达成共识，而在于营造一个多元观点能够和平共处的环境。争取真理的斗争并非为了“胜利”，而是为了营造一个多元观点能够共存、互不敌视、理性对话的环境。

本文作者：

Jesus Serrano，世界经济论坛全球传播组名誉与危机管理负责人

本文原载于世界经济论坛Agenda博客，转载请注明来源并附上本文链接。

编辑：万汝鑫