人工智能在数字时代的普及既带来了创新，也带来了挑战，尤其是在信息完整性方面。
能够生成“深度伪造”内容的人工智能技术，可能被用于制造错误信息和虚假信息。
然而，人工智能也能通过分析模式、语言和语境，协助打击虚假信息，辅助内容审核。
人工智能（AI）在数字时代的普及带来了非凡的创新，也带来了独特的挑战，尤其是在信息完整性领域。
人工智能技术能够生成以假乱真的文本、图像、音频和视频（通常被称为“深度伪造”），使人们难以区分真实内容与合成内容，构成重大困难。这种能力使不法分子得以将虚假信息活动自动化并不断扩大，从而大幅提升其覆盖范围和影响力。
然而，在这一故事中，人工智能并非反派。它在打击虚假信息和错误信息方面同样发挥着关键作用。先进的人工智能驱动系统可以分析模式、语言使用和语境，协助内容审核、事实核查以及虚假信息的识别。
有效的应对措施离不开对错误信息（无意传播的不实内容）与虚假信息（蓄意传播）之间细微差别的理解，而对内容进行人工智能分析也有助于实现这一点。
2025年达沃斯论坛“智能时代的产业”
虚假信息的社会代价
失控的人工智能驱动虚假信息所造成的后果极为深远，可能侵蚀社会的根本结构。
世界经济论坛的《2024年全球风险报告》指出，错误信息和虚假信息是未来几年的严重威胁，并强调国内宣传和审查可能加剧。
人工智能的政治滥用带来严重风险。深度伪造和人工智能生成内容的迅速传播，使选民越来越难以辨别真假，可能影响选民行为并破坏民主进程。选举可能因此被左右，公众对各类机构的信任可能下降，社会动荡可能被引发，甚至可能引发暴力冲突。
此外，虚假信息活动可能针对特定人群，传播人工智能生成的有害内容。例如，基于性别的虚假信息会延续刻板印象和厌女观念，进一步边缘化弱势群体。
此类活动操纵公众认知，导致广泛的社会危害，并加深现有的社会分歧。
应对虚假内容的多管齐下方法
人工智能技术的快速发展往往超出政府监管的步伐；如果管理不当，可能带来社会危害。
内容真实性认证和数字水印等行业举措，有助于应对虚假信息和内容所有权方面的关键问题。这些工具需要精心设计，并听取多方利益相关者的意见，以防止被滥用，例如侵蚀隐私或迫害冲突地区的记者。
例如，内容来源与真实性联盟（C2PA）由Adobe、Arm、Intel、Microsoft和TruePic共同推动，该联盟致力于制定技术标准，用于认证媒体内容的来源和历史，即其出处，从而应对网络上误导性信息泛滥的问题。
为进一步降低与人工智能相关的风险，开发者和组织必须实施健全的保障措施、透明度措施和问责框架。
通过建立全面的体系，开发者可以确保人工智能在各领域得到符合伦理且负责任的部署，从而增进信任，促进人工智能的有益应用。
除技术措施外，关于媒介素养和批判性思维的公众教育对于增强个人驾驭复杂数字信息环境的能力至关重要。
学校、图书馆和社区组织在推广这些技能方面发挥着重要作用，通过提供资源和培训项目，帮助个人培养批判性评估信息来源、辨别错误信息与事实内容，并做出明智决策的能力。
合作是应对错误信息的关键
此外，政策制定者、科技公司、研究人员和民间组织等利益相关方之间的合作，对于有效应对人工智能助长的错误信息和虚假信息所带来的多重挑战至关重要。
这一局面凸显了在人工智能技术和人为生成内容兴起的背景下，促进全球理解与合作、共同遏制虚假信息传播的重要性。
人工智能治理联盟是世界经济论坛的旗舰项目，隶属于第四次工业革命中心，汇聚全球各地的专家和机构，共同应对人工智能的复杂挑战，包括误导性或有害内容的生成以及知识产权侵权问题。
通过协作努力，该联盟提出务实建议，以确保人工智能的开发与部署负责任、合乎伦理，并最大限度地造福人类。
论坛的另一项倡议是全球数字安全联盟，该联盟正带头推动全社会参与的方法，通过促进媒介素养的提升来打击虚假信息。这包括了解虚假信息是如何产生、传播和被消费的，并确定在每个环节中应对虚假信息所需的技能。
该联盟汇聚科技公司、政府官员、民间社会和国际组织，交流最佳实践，协调行动，旨在减少网络危害。
推进我们的数字安全理念
随着人工智能持续改变我们的世界，推进我们在数字安全和信息完整性方面的理念已势在必行。
世界经济论坛如何为人工智能建立防护机制？
人工智能卓越中心汇聚各行业领袖，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持围绕人工智能应用相关的机遇、风险及权衡取舍展开知情对话。
通过可信赖的平台和协作倡议，该中心助力合作伙伴建立共同理解，并携手推进负责任的人工智能创新与应用。
通过加强协作、创新和监管，我们能够在防范人工智能风险的同时发挥其益处，确保技术提升而非削弱公众信任和民主价值观的未来。
携手合作，我们可以确保人工智能成为守护真相、推动进步的工具，而非用于操纵和制造分裂。
