Meta将在印度推出一条热线，协助在WhatsApp上识别深度伪造内容。
印度总理已警告人工智能可能造成的潜在损害。
世界经济论坛的全球数字安全联盟正致力于提升网络素养。
Meta宣布将推出一项新的热线和事实核查服务，在印度提供，旨在防止人工智能生成的“深度伪造”内容在其WhatsApp即时通讯服务上传播。
此举恰逢其时。2024年，全球一半人口将参加选举。其中规模最大的选举将在印度举行，该国有近9.87亿人登记为选民，选举投票将于4月和5月举行。
印度总理纳伦德拉·莫迪已警告称，深度伪造视频和其他经过篡改的内容可能对社会构成严重风险。作为世界上最大的民主国家，印度正面临这一风险。
他在2023年12月与学生交谈时表示：“这些视频看起来非常真实，因此，在相信一段视频或一张图片的真实性之前，我们需要格外谨慎。”
此前，在2023年9月的二十国集团（G20）峰会上，莫迪发表讲话，呼吁制定全球性的人工智能监管规则。印度还已向科技公司发出直接警告，提醒它们有责任防止深度伪造内容的发布和传播。
Meta的深度伪造热线将如何运作？
Meta已与印度的虚假信息对抗联盟（MCA）合作运营该热线。
WhatsApp用户将能够通过应用内的聊天机器人举报可疑内容。该热线将提供英语、印地语、泰米尔语和泰卢固语的多语言支持，确保印度各阶层人口都能使用该热线。
该服务的核心是深度伪造分析小组，这是虚假信息对抗联盟的一个专业团队，将负责处理通过WhatsApp热线标记的所有信息。该小组将与11家事实核查机构、行业合作伙伴和数字实验室合作，审查并驳斥深度伪造内容中的虚假信息。
论坛如何应对全球网络安全挑战？
网络安全中心提供了一个可信赖的平台，让各界领导者齐聚一堂，共同理解不断演变的网络风险及其系统性影响。该中心致力于在日益互联的数字世界中建立理解与信任。
通过促进跨行业合作与洞察分享，该中心帮助合作伙伴增强网络韧性，应对需要集体应对的挑战。
Meta与虚假信息对抗联盟共同构建了该体系，致力于实现四项成果：检测、预防、举报和提高认知。该策略旨在不仅打击深度伪造内容的传播，还要向公众普及人工智能生成虚假信息的危害。
虚假信息对抗联盟主席Bharat Gupta表示，该服务将在捍卫印度民主方面发挥关键作用。
“深度伪造分析小组（DAU）将成为一项关键且及时的举措，以遏制人工智能驱动的虚假信息传播。在Meta的支持下……我们希望DAU将成为公众辨别真实媒体与人工智能生成媒体的可靠资源。”
如何识别深度伪造
为提醒人们注意潜在的深度伪造内容，Meta热线依赖WhatsApp用户自行辨别合成内容与真实内容。鉴于深度伪造的外观和声音可以极为逼真，这是一项挑战。
不过，在判断一段内容是真实的还是深度伪造的时，仍有一些线索可供留意。深度伪造中的某些特征可能暴露其真实面目，据网络安全公司Norton称。这些特征包括不自然的眼部动作和面部表情、缺乏情绪以及肤色异常。
提升数字媒体素养
深度伪造内容的增长凸显了提升数字媒体素养的必要性。提高人们对深度伪造的存在及其所带来风险的认识，将有助于确保所有人享有更安全的网络环境。
论坛的全球数字安全联盟（GCDS）旨在推动公私合作，以应对网络上的有害内容，并将有助于交流有关新网络安全法规的最佳实践。
全球数字安全联盟围绕四大核心支柱开展工作：制定数字安全原则、打造安全产品设计与创新工具包、建立数字安全风险评估框架，以及制定媒体素养项目的最佳实践。
Meta在印度推出的深度伪造热线表明，技术手段能够改善网络安全，并保护民主免受那些利用人工智能扭曲现实者的侵害。
但我们所有人都需要自我教育，因为我们正进入一个人工智能有可能模糊事实与虚构界限的时代，其程度是我们前所未见的。
