人们正利用人工智能程序制作深度伪造内容，以在社会中播下不和的种子，并扰乱市场。
算法很快就能生成与人类创作的内容难以区分的内容。
要提升人工智能检测虚假信息的能力，需要人为干预；但教育人们客观评估网络内容才是首要任务。
虚假信息对社会稳定的威胁，超过了我们能想象的其他任何事物。这是一场席卷大小经济体的疫情。世界各地的人们的生命和人身安全都受到威胁，原因是大量情绪化、加剧社会分裂的错误信息，其中许多由新兴技术助长。这些内容要么操纵人们的认知，要么在社会中传播彻头彻尾的谎言。
人们正利用人工智能程序改编视频、音频和图片，制作政治领导人的深度伪造内容。这类内容可在社会中播下不和的种子，并扰乱市场。人工智能生成类人内容的能力也在不断增强，所用语言模型包括 GPT-3，它们能够根据一行提示撰写文章、诗歌和论文。人工智能对各类内容的篡改已变得如此天衣无缝，以至于像这样的开源软件FaceSwap和DeepFaceLab甚至能让低调的业余爱好者成为社会失和的中心。在人们已无法判断该信任谁的时代，“向善的技术”似乎成了唯一的救星。
用于初步筛查虚假信息的语义分析
人们首先想到的运用技术打击虚假信息的方法，就是对内容进行分析。基于人工智能的工具能够对文本内容进行语言分析，识别词语模式、句法结构和可读性等线索，从而区分机器生成的内容与人类撰写的文本。这类算法可以检查任意文本中的词向量、词语位置和内涵，以识别仇恨言论的痕迹。此外，人工智能算法还能通过逆向分析被篡改的图片和视频来检测深度伪造内容，并标出需要审核的内容。
但这还不够：生成对抗网络日益复杂，算法很快就能生成与人类创作的内容难以区分的内容。更令人担忧的是，这类语义分析算法无法解读未经篡改、却在错误或恶意语境下分享，或配有额外内容的仇恨言论图片。它们也无法核实某些内容中的说法是否虚假。语言障碍也增加了挑战。归根结底，系统可以评估网络帖文的情绪倾向，却无法判断其真实性。这正是人工智能需要人为干预的地方。
溯源：更上一层的把关手段
人们常发现，假新闻有着共同的源头——也就是新闻传播之前的起源地。Fandango 项目例如，会利用经过人工事实核查人员标记为虚假的报道，再搜索措辞或说法相似的社交媒体帖子或网页。这使记者和专家能够追溯假新闻的源头，并在潜在威胁失控扩散之前将其清除。
诸如Politifact、Snopes和FactCheck等服务机构聘请人工编辑，开展核实报道或图片真实性所需的基础调查。发现假新闻后，人工智能算法会协助搜索网络，反制可能煽动社会不和的类似内容。如果确认内容属实，还可以为相关网站文章赋予信誉评分。信任项目采用来源、参考资料、道德标准和更正记录等指标，评估新闻媒体的可信度。
假新闻和仇恨言论的数量激增，这类内容又在社交网络上迅速传播，因此仅依赖人工事实核查人员并不足够。这一流程也带有偏见，因为何为冒犯性内容、何为加剧社会分裂的内容，取决于事实核查人员的主观判断。例如，一篇据称措辞激烈的新闻报道可能讲述的是真实事件，但使用了情绪化语言；这或许符合一位核查人员的看法，却不符合另一位的看法。因此，这种筛查方法有助于确认内容是否真实，却无法判断其情绪倾向。
分析传播路径，遏制扩散
假新闻和真实新闻在社交网络上的传播方式存在明显差异。麻省理工学院的研究人员指出，假新闻在 Twitter 上触达 1,500 人的速度是真实新闻的六倍。此外，真实新闻的传播链长度（即转发一条社交媒体帖文的人数）从未超过 10，而假新闻的传播链长度则达到 19。这在一定程度上是因为恶意分子部署了成群的机器人，推动假新闻病毒式传播。
人类同样难辞其咎，因为人们往往在缺乏批判性思考或判断意识的情况下，更快地分享假新闻。GoodNews利用人工智能引擎，根据互动指标识别假新闻：与真实新闻点赞多于分享的情况相反，假新闻的分享次数多于点赞次数。根据传播情况捕捉可疑内容的这类技术，有助于防止激进化。
以人为本
当今世界需要主动出击打击虚假信息，使用技术却只是一种被动应对之举。除非我们教育广大民众——尤其是年轻人——提高警惕，识别虚假信息，否则人工智能无法独自发挥作用。印度的一些学校正在向中学生传授批判性思维方法，培养他们核查事实的习惯。假新闻问题不仅关乎算法，更关乎我们处理知识的理念——无论知识是好是坏。知情用户组成的社群可以参与合乎道德的监测活动，而专业机构通过众包协作汇集知识，对于核实原始信息至关重要。
要建设一个信息充分、具备批判性思维的社会，以更具人文关怀的方式打击虚假信息必须成为最高优先事项。若缺乏涉及所有利益相关方的主动措施，媒体和机构的公信力就可能迅速瓦解，而这正是无政府状态的先兆。在人们学会客观评估网络内容之前，基于人工智能的技术必须成为我们在线打击虚假信息的盟友。
