在生成式人工智能的兴起以及围绕言论自由和内容审核的复杂争论推动下，数字安全正在迅速演变。
与此同时，生成式人工智能正在变革数字内容创作，但其滥用迅速加剧了有害内容的生产和传播。
使此类系统符合人权原则并消除偏见，对于重建和维护公众信任至关重要。
迈入2025年之际，数字安全格局正经历快速转型，其深受生成式人工智能（GenAI）兴起以及围绕言论自由和内容审核日益复杂的讨论影响。
从有害内容的泛滥、监管挑战，到Meta近期宣布的Meta将缩减内容审核工作及美国的事实核查，数字安全领域正处于关键时刻，亟需各方紧急关注和协作行动。
在此背景下，有必要提出一个问题：2025年能否实现数字安全？
人工智能时代有害内容的泛滥
生成式人工智能正在变革内容创作，带来了创意和创新的新机遇。然而，其滥用迅速加剧了有害内容的生产和传播。深度伪造、经过篡改的媒体以及露骨的合成内容的兴起，正在模糊现实与虚构的界限，放大虚假信息，并削弱网络生态系统中的信任。
合成内容的激增对内容审核系统提出了重大挑战，这些系统现在必须应对前所未有的生成内容数量和复杂性。信任的侵蚀不仅限于数字平台和新闻媒体，甚至影响个人交流与人际关系。
随着这一趋势的发展，利益相关方和用户越来越要求人工智能算法的决策过程更加透明，尤其是在内容审核方面。2025年，使这些系统符合人权原则并消除偏见，对于重建和维护公众信任至关重要，这也与围绕言论自由的讨论相契合。
世界经济论坛近期发布的《2025年全球风险报告》强调了人们对人工智能技术不利后果日益增长的担忧。报告显示，错误信息和虚假信息连续第二年排名第一，网络危害排名第14位。
“要全面理解自动化系统与网络安全之间的关系，就需要充分了解人工智能如何帮助信任与安全团队应对网络滥用。提升公众对人工智能既是风险因素又是风险缓解手段的认识，对于维护2025年数字服务的信任至关重要，”David Sullivan表示，他担任数字信任与安全伙伴关系执行董事。
最令人担忧的或许是人工智能生成的合成儿童剥削材料日益增多。互联网观察基金会（Internet Watch Foundation）报告称，超过20,000张人工智能生成图像在一个暗网论坛上流传，仅一个月内，这凸显了应对这一日益严峻威胁的全面干预措施的迫切需要。随着这些威胁不断演变，2025年将需要创新的解决方案和全球协作，以保护网络空间并保障弱势群体。
言论自由与内容审核之争
2025年伊始，数字安全格局在内容审核实践上面临关键转向，尤其是Meta近期宣布在美国取消其平台上的内容审核工作，转而依靠用户为帖子添加注释。
这一做法与行业中更广泛的趋势相呼应，特别是Twitter推出的社区注释系统，该系统同样依赖用户贡献而非集中审核，来应对可能具有误导性或有害的内容。
然而，人们担心Meta缩减事实核查和内容审核举措的决定，可能无意中使弱势群体接触到更多种类的有害内容，包括虚假信息、仇恨言论和网络欺凌。
批评者认为，这一做法可能放大有害言论，并造成更不安全的数字环境。对此，Meta称，应对“不良”言论的解决之道不是封堵，而是鼓励“良善”言论予以反制，从而促进更加开放、自我调节的社区对话。该公司认为，减少内容审核将促进更自由的表达，并允许更开放的对话。
Meta的做法凸显了在平衡内容审核与言论自由之间存在的更广泛困境。2025年的关键挑战将在于找到一个中间地带，使言论自由与数字安全能够共存，确保有害内容的泛滥不会扼杀公众对数字平台的信任。
实施新的数字安全法规
法规将继续塑造数字安全生态系统，不断演变的法律标志着网络安全应对方式的转变。即使监管环境总体趋向更为积极，各地区和国家在做法上仍存在差异；例如，美国对规管网络言论的态度比许多欧洲国家更为保守。
欧盟的《数字服务法》（DSA）和英国的《在线安全法》（OSA）在内容审核、平台问责和儿童保护方面树立了重要标准。然而，其在各司法管辖区的实施情况各不相同，凸显了协调监管方法的复杂性。
英国网络平台即将面临《在线安全法》规定的新义务。Ofcom将于2025年4月前发布《儿童保护行为守则》和更新的风险评估指南。这将进一步明确平台在保障用户特别是儿童方面的责任。
澳大利亚也迈出了大胆一步，推出针对特定社交媒体服务的年龄限制，适用于16岁以下儿童，这标志着全球正转向将儿童安全置于数字空间的优先位置。此举将由澳大利亚eSafety专员与政府、行业、青年及更广泛的社区合作，以实施年龄限制。
英国和西班牙等其他国家也在探索类似政策，彰显了国际社会保护青少年网络安全的共同承诺。
随着这些监管框架的演进，2025年将是全球推动增强数字安全的关键之年。该全球网络安全监管者网络，于2024年10月成立，推出了《在线安全监管指数》，这是一项宝贵工具，可用于比较和评估各地区的安全标准，有助于应对复杂的监管环境。
“eSafety在2025年有效实施和执行新的社交媒体年龄限制立法的计划，是我们工作的一部分，它将补充我们现有的整体战略，确保各平台和服务更有效地部署设计安全（Safety by Design），同时提升所有澳大利亚人的安全实践与流程，”eSafety专员（澳大利亚）Julie Inman Grant表示。
“我们全球首创的行业标准旨在要求全球科技巨头应对最有害的网络内容，包括儿童性虐待材料和支持恐怖主义的内容，这是我们多管齐下、保护儿童网络安全的方法中另一重要且相互关联的要素。其中包括持续开展儿童数字素养教育，并增强家长的能力。
“同样，我们的行为守则和透明度权力均可支持社交媒体年龄限制，为儿童和青少年提供全方位的保护。”
数字安全干预措施
数字安全挑战的规模令人担忧，然而企业、民间社会组织和其他利益相关方正在实施大量干预措施和解决方案，以应对这些危害。
利用人工智能和机器学习等技术干预手段，对于检测和缓解有害内容同样至关重要。然而，有效的策略不能仅限于技术。
这需要全面改进政策、促进积极的网络行为和开展用户教育，以营造更安全的数字环境。这种复杂性源于数字安全问题不仅是技术问题，还与文化、社会和制度动态紧密交织。
面对未来的挑战，让用户掌握数字风险和安全实践的知识，同样重要，这有助于打造让用户能够发声的网络平台。提升数字素养的宣传活动至关重要，使个人能够负责任地在网络空间中行事，并促进形成更安全、更具包容性的数字生态系统。
为最大化这些努力的影响，必须持续评估干预策略和缓解措施，明确哪些有效、哪些无效，同时兼顾关于言论自由与安全的讨论。这种持续分析对于完善做法、确保数字安全举措的持续有效性至关重要。
威胁数字安全的未来危害
在数字安全领域，忽视对新兴优先事项的预判，往往导致被动应对，只有在造成重大后果和危害之后才采取行动。在威胁升级之前采取前瞻性措施以应对潜在威胁，对于减轻损害和确保韧性至关重要。
研究由WeProtect联盟与Thorn发布的研究强调了定期进行前瞻性扫描的价值。这一方法能够快速评估可能扰乱技术促成的儿童性剥削格局的现有及新兴技术。此类前瞻性举措必须成为所有网络危害中儿童保护的标准做法，因为技术和用户行为正在迅速演变。
2025年，范式转变至关重要，开发者与政策制定者必须密切合作，将危害预防融入技术开发之中。这一转变要求在安全与创新之间取得平衡，推动既能保护用户及其声音、又不妨碍进步的解决方案。通过优先采取前瞻性策略，我们能够构建一个有效预见并减轻未来风险的数字环境。
全球合作与治理
数字安全挑战的相互关联性，需要统一的全球应对。有效应对这些问题，需要政府、私营部门实体和民间社会组织之间建立强有力的伙伴关系。此类合作举措对于促进创新、分享最佳实践和推动实质性进展至关重要。
在政府间层面，《联合国全球数字契约》（United Nations Global Digital Compact）有望为数字世界制定国际标准，并大力呼吁加强数字安全。随着其在2025年推进实施，各方将密切关注其应对跨境安全挑战、使全球努力与共同目标保持一致的能力。
从多利益相关方的角度看，全球数字安全联盟（Global Coalition for Digital Safety）由世界经济论坛召集，发挥着关键作用。它为利益相关方提供了一个平台，共同探讨最佳实践、交流见解，并推进设计安全原则。
论坛如何帮助领导者将前沿技术与现实挑战相连接
前沿技术与创新中心（Centre for Frontier Technologies and Innovation）汇聚科学家、政策制定者和企业领袖，共同理解新兴技术及其现实影响。
通过促进合作与实验，该中心帮助合作伙伴将研究成果的创新转化为实际应用，以应对共同的全球挑战。
今年晚些时候，该联盟将发布一份报告，梳理数字安全干预措施，并推出一个涵盖虚假信息全生命周期的综合框架。
在私营部门，内容来源与真实性联盟（C2PA）正在采取重要举措应对错误信息。通过制定验证媒体内容来源和历史的技术标准，C2PA旨在增强数字空间中的信任与问责。
“更安全的数字世界不仅需要监管和技术创新，还需要一种优先考虑伦理实践并预见未来风险的文化转变。通过共同努力，我们能够将数字安全格局转变为一种在这些复杂多变的挑战中赋能并保护用户的格局，”世界经济论坛治理与信任负责人Daniel Dobrygowski表示。
实现数字安全需要在日益复杂的网络环境中，平衡言论自由与用户保护。通过全球协作、透明监管、技术创新，以及对人权和伦理原则的承诺，2025年有望取得重大进展。
