过去,只要某件事看起来真实,社会就会接受它为真;生成式人工智能(GenAI)正在改变这种关系。
核验素养是指理解信息如何变得可信,而不是仅凭表象判断真伪的能力。
相机曾教会人类相信眼见为实;生成式人工智能正教会人类理解真相如何构建。
一个多世纪以来,信任取决于人们能够看到什么;照片记录历史,视频证实事件,录音则可证明某人曾在场。从新闻业、法院到社交媒体,视觉媒体一直是现代现实的共同根基。如果某件事看起来真实,社会通常就会接受它为真,但生成式人工智能(GenAI)正悄然改变这种关系。
受控实验表明,人类识别人工智能生成面孔的准确率平均仅约为62%,而信心程度与判断是否正确无关。这表明,感知已不再是判断真实性的可靠依据。
如今,人工智能系统能够生成与真实录音极为相似的图像、声音和视频,而人们往往无法可靠地区分合成媒体与真实媒体。这不仅仅是虚假信息问题,也是人类面临的一个学习契机。
什么是核验素养?
核验素养是指理解信息如何变得可信,而不是仅凭表象判断真伪的能力。联合国教科文组织支持发展媒体与信息素养,这包括以合乎伦理的方式获取、分析、批判性评估和核验信息所需的知识、态度、技能与实践。
它将核心问题从:这看起来是真的吗?转变为:这是如何核验的?
核验素养包括以下实用习惯:
检查多个相互独立的来源是否证实同一说法。
了解数字内容的来源。
认识到算法如何放大煽情或耸动的内容。
在接受或分享信息前,留出时间进行核验。
正如数字素养在互联网时代变得至关重要,核验素养在人工智能介入的世界中也日益不可或缺。生成式人工智能正在创造合成媒体,促使人类提升评估现实的能力。
世界经济论坛如何帮助领导者理解人工智能并携手推动负责任的创新
人工智能卓越中心汇聚各领域的领导者,共同理解人工智能的快速演进及其对经济和社会的影响。该中心推动各方就人工智能应用带来的机遇、风险和权衡展开知情对话。
通过可信赖的交流平台和协作倡议,该中心帮助合作伙伴建立共同认知,并携手探索负责任的人工智能创新与应用方式。
为什么人工智能是催化剂,而非危机?
每一项重大的传播技术都拓展了人类的素养。印刷术要求人们具备阅读素养。广播媒体要求人们具备媒体素养。互联网带来了数字素养,而生成式人工智能正在催生核验素养。
人工智能降低了制作逼真内容的成本,同时也暴露出基于感知建立信任的局限。研究表明,人们一再高估自己识别深度伪造内容的能力,这说明仅凭直觉判断已不再足够。
根据斯坦福大学的《人工智能指数报告》,企业人工智能应用率在一年内从55%升至78%,全球生成式人工智能投资达到339亿美元,显示出人工智能正迅速融入日常信息系统。
这一时刻并非预示真相崩塌,而是促使社会发展更具韧性的真相确立方式。人工智能带来的压力正在加速认知适应。
从视觉证据到核验系统
历史上,信任往往附着于物品、照片、文件和录音。进入核验时代,可信度越来越取决于过程。
记者、研究人员和开源调查人员已经在通过结合相互独立的线索来核实事件,例如地理位置数据、时间戳和多个目击者的消息。信任来自多方证据相互印证,而非单一证据。
技术正开始助力这一转变。内容来源与真实性C2PA倡议将安全元数据嵌入数字媒体,使受众能够追溯内容的创作或编辑过程。
一份联合国报告指出,日益逼真的深度伪造内容对政治活动、金融安全和公众信任构成风险,并呼吁制定全球核验标准和数字来源追溯系统。
这些系统并非要求用户不再信任媒体,而是帮助用户理解背景和核验素养,使人们能够有意义地解读这些信号。
传播与社交媒体如何演进
社交媒体平台是在视觉信息被视为确定无疑的时期设计的。由于人们认为图像代表现实,平台便以速度和情绪反应来奖励互动。在当今时代,传播规范很可能发生变化。
各个平台正在尝试提供背景提示,为内容来源和真实性补充信息。用户可能会越来越多地解读帖子周围的多层核验信息,而不只是浏览帖子本身。
学者指出,数字平台从根本上改变了传播方式,使其从单向广播转向多向互动,让个人、机构和政府能够持续对话,而不再只是传统的自上而下传递信息。
传播不再那么依赖即时相信,而是更注重知情解读。因此,这种新的素养形式正在重塑个人行为和平台设计。
核验素养为何在当下至关重要
来自麻省理工学院媒体实验室的实验研究发表于《自然·通讯》,研究表明,即便参与者人数众多,人们仍难以可靠地区分真实的政治演讲与人工智能生成的深度伪造内容,无论音频还是视频形式都是如此。
核验素养提供了一种建设性的应对方式。它不再将人工智能视为生存威胁,而是将其重新定义为一个教育转折点,借此增强集体韧性。它不会消除信任,而是重塑信任:从依赖表象转向依靠机构、技术和社区共享的核验体系。可信度通过透明和多方印证逐步建立。
在这样的环境中,公民不再是信息的被动消费者,而是核验的积极参与者。核验素养成为一种公民能力,也可能成为全球各行业发展的决定性因素。
学会以不同方式建立信任,是现代传播的力量所在
相机曾教会人类相信眼见为实。生成式人工智能正教会人类理解真相如何构建。
这一转变最终可能增强传播,而非削弱传播。人工智能鼓励社会质疑、交叉核对并结合背景理解信息,推动人类以更审慎的方式理解事物。
一项系统性综述分析了177项科学研究,并发表于《商业研究杂志》。综述发现,社交媒体平台日益成为创新生态系统,促进跨行业快速交换信息和协作创造知识。
归根结底,关键不在于怀疑,而在于参与。如今,个人不再是信息的被动接收者,而是积极参与确认和分享现实。由此看来,信任从自动授予的东西,转变为需要共同维护的东西;在合成信息日益增多的环境中,公民、平台和机构共同承担这份责任。
它能否成功,取决于人类是否学会核验,而非人工智能是否变得更强大。


