在社交媒体网络上分辨真实新闻和假新闻并不容易。
恶意行为者利用我们的心理弱点，让我们相信假新闻是真的。
借鉴人类认知和行为科学理论，我们可以计算量化指标，并运用自然语言处理技术来帮助识别假新闻。
我们怎样才能避免被假新闻蒙骗？社交网络上信息铺天盖地，几乎不可能分辨哪些是真实信息，哪些是不可靠信息。
问题与其说在于虚假内容，不如说在于恶意行为者试图利用我们的心理弱点。这解释了为什么错误信息的传播速度快六倍于社交网络上的可靠信息。更糟的是，错误信息的产量更大（数量问题）、类型更多（广度问题）、传播更快（速度问题），超出了我们遏制其内容的能力。尽管如此，仍有一些线索可以帮助我们判断文章作者是否正利用我们的心理弱点试图欺骗我们。
借鉴人类认知和行为科学理论，我们可以计算量化指标，并运用自然语言处理技术来帮助识别假新闻。例如，媒介化动机信息加工有限容量模型认为，文本在结构和功能上的不同特征，需要大脑付出不同程度的认知努力才能加以处理。也就是说，文本的复杂程度各不相同。例如，儿童读物的结构比科学文章简单。问题在于，在社交网络上，人们往往会尽量减少处理信息时付出的努力。这解释了为什么越简单的内容越容易广泛传播。
然而，我们的心理也容易受到情绪影响。研究表明，情绪越强烈的内容越容易广泛传播，这也解释了为什么社交网络被视为“大规模情绪传染”的源头。当我们接触情绪色彩浓厚的信息时，思维会变得不那么理性，辨别真伪的能力也会下降。假内容创作者深知这一点，因此试图利用情绪来影响我们。在一项近期研究中，我们尝试揭示不同类型的错误信息所采用的策略，并将其称为“错误信息的指纹”。为此，我们使用了超过92,000条假新闻内容，并将其分为七类：标题党、阴谋论、假新闻、仇恨言论、伪科学、可靠来源和谣言。随后，我们从情绪唤起和认知努力两个方面，将这些内容与真实新闻进行比较。
错误信息的指纹
我们运用自然语言处理技术，计算了不同类别的错误信息在情绪唤起（情感分析和对道德价值观的诉求）以及内容处理所需的认知努力（语法复杂度和词汇多样性）方面与真实新闻的差异。结果显示，假内容与真实内容之间存在显著差异：
从图中可以看出，几乎所有类型的错误信息在语法结构上都比可靠新闻简单，因此更容易处理，因为用户所需付出的认知努力更少。同样，这些内容的词汇多样性都低15%，进一步减少了处理它们所需的认知努力。从情绪唤起方面来看，结果显示，错误信息比真实新闻更具煽动性。事实上，其情感倾向的负面程度高出十倍。此外，值得注意的是，它们对读者道德观的诉求强度高出37%。也就是说，它们试图通过传达一种攻击读者个人社会身份（性别、宗教、国籍等）的观念，在心理上影响用户。
以下是一个负面内容浓厚、诉诸社会身份认同的例子，摘自一篇分析文章。该文报道了两名法国警察遭枪击一事：“（……）她的竞选（此处指玛丽娜·勒庞）是对全球主义者策划的伊斯兰主义者入侵欧盟及随之而来的主权丧失的反抗。欧盟应对恐怖分子和伊斯兰主义者大量涌入法国负责（……）”幸运的是，这些研究结果也有助于我们提出建议，避免被操纵我们心理的错误信息创作者欺骗。根据前述结果的结构，我们可以提出以下建议，以免受错误信息蒙骗：
警惕语法和词汇结构糟糕的内容
错误信息的创作者知道，你浏览社交网络时不会像在其他情境下那样投入全部精力；毕竟，你上社交网络是为了获取信息或消遣，而不是工作。因此，他们会设法降低你处理内容时所需的认知成本。这样一来，内容对你的大脑更有吸引力，你也更可能相信它，并与社交网络中的其他人分享。这并不是说所有互联网内容都应该很复杂，而是要懂得识别那些简单得令人起疑的内容。
不要相信那些试图煽动情绪或诉诸道德观的新闻
行为科学领域的所有研究都表明，人类并不像我们想象的那样理性。情绪会强烈影响我们的思维过程和决策。因此，假内容创作者试图利用情绪，使我们无法理性判断正在阅读的内容是真是假。他们通过激起愤怒、恐惧或悲伤来影响我们的情绪，蒙蔽我们的理性。他们还会采用一些策略，让我们觉得自己的社会身份——国籍、性别、观点——正受到威胁，并制造群体外部的敌人危及我们生存的感觉。同样，这种受到攻击的感觉会激活我们心理中的某些机制，使我们的行为变得不那么理性，并削弱我们辨别真伪的能力。
因此，研究结果表明，我们上网时保持警惕十分重要，尤其是在社交网络上；我们还要能够识别何时有人试图利用我们的心理弱点来对付我们。这既需要个人付出努力，也需要整个社会共同努力。
首先，社交媒体公司必须认识到，它们的平台让人们能够获取人类历史上前所未有的信息，这带来了巨大利益；同时也要认识到，恶意行为者正利用这些平台，借助用户的心理弱点谋求经济或政治目的。另一方面，研究结果也在呼吁公共决策者更加关注公众媒体素养水平低得令人担忧这一问题。技术进步的速度远远快于我们的心理发展、教育体系或政策制定速度。如果我们不加倍努力，解决已有和未来的挑战，这将给我们的社会带来问题。
