“人工智能可能构成认知威胁，”ChatGPT 说。它无法区分可靠信息与可疑信息。
德性认识论学者关于深度伪造的研究见解，有助于我们思考 ChatGPT 可能产生的影响。
ChatGPT 或能帮助提升我们的“数字敏感力”，让我们能够在网上流传的大量图片和视频中准确辨别真伪
OpenAI 于 2022 年 11 月 30 日发布了ChatGPT，它几乎能够完美模仿完整对话，或通过生成仿佛直接出自人脑的文本来回答复杂问题。
这一突破引发了诸多担忧，包括经济、伦理和“认识论”（可靠知识和信息的产生或获取）方面的问题，因为现阶段这种人工智能无法区分可靠信息与可疑信息。
“人工智能可能构成认知威胁，”ChatGPT 说
“人工智能可能构成认知威胁，因为它能够生成令人信服却不真实的信息。这可能挑战我们对世界的理解，甚至危及我们知识的有效性。这引发了人们对利用人工智能传播虚假信息或操纵他人信念的担忧。”
这话不是我说的，而是……ChatGPT 自己说的！有人问它“人工智能如何构成认知威胁？”时，它生成了上面这段话。正如这个例子所示，它的回答可能非常有说服力，却又空洞无物。有时，虚假内容一目了然，有时则更难识别。
在我们的例子中，第一句话基本没有问题，第二句却是毫无意义的陈词滥调：“挑战我们对世界的理解”或“危及我们知识的有效性”究竟是什么意思？第三句话也不太说得通：这些人工智能并不会传播任何东西，也不太适合用于操纵（因为我们对它们生成的内容几乎没有控制力）。
但问题恰恰在于此：我们必须动脑思考，才能找到真相。
ChatGPT 完全不在乎自己的回答是否属实
埃尔旺·拉米，ESCP 商学院信息与运营管理副教授
我们必须明白，ChatGPT 并非被编程来回答问题，而是用来生成听起来合情合理的文本。它尤其擅长处理大量可供它“阅读”的文本。就 ChatGPT 而言，它的能力惊人。
给定一串词语后，ChatGPT 可以判断最有可能接续其后的词语序列。因此，它能够以必然令人信服的方式“回答”问题，因为它计算的是最可能出现的回答。但其中没有逻辑，也没有思考，只有概率计算。ChatGPT 完全不在乎自己的回答是否属实。换句话说，即使是普林斯顿大学计算机科学家阿尔温德·纳拉亚南和萨亚什·卡普尔这样的学者也认为它是一个“胡说八道生成器”。
自从哈里·法兰克福在 2000 年代以“胡说八道”为主题写了一篇文章，随后又出版了一本书，它便成为一个哲学概念。如今，心理学、哲学、神经科学和管理科学领域的严肃研究者都在研究这个主题。这个术语的含义变得更加复杂，但在这里，我们可以采用它最初的定义：对真相漠不关心。这不是说谎：说谎者在意真相，因为他们试图歪曲真相。胡说八道的人则不把真相放在心上，只想吸引他人注意——他们说的话有时可能正确，有时可能错误，但这都无关紧要。
才华横溢的 ChatGPT 正是如此。它出错时，错误并不明显——至少不会立刻显现。一个人人都能使用、功能强大又简单易用，却不承担呈现事实责任的文本生成器？确实有理由感到担忧。不难想象，不择手段的内容编辑者会如何轻易利用这一工具制造“信息”，尤其是 ChatGPT 甚至似乎能够在学者各自的专业领域蒙骗他们。
认识论恶习与美德
这里关乎的是一种智识伦理观。与普遍看法相反，知识（无论是否科学）的产生和获取不只是方法问题，也关乎道德。哲学家谈论智识恶习与美德，可以将其定义为妨碍或促进可靠信息获取与产生的人格特质。
思想开放是认识论美德的一个例子，而教条主义则是恶习的一个例子。自 20 世纪 90 年代初以来，这些概念已在日益丰富的哲学文献中得到探讨，形成了德性认识论。这项研究最初旨在正确界定知识，因此主要是技术性的；如今也开始关注我们这个时代的认识论问题：虚假信息、假新闻，当然还有人工智能带来的危险。
直到最近，探讨人工智能认识论后果的德性认识论学者重点关注的还是“深度伪造”——即完全由人工智能生成的视频，例如 OpenAI 的DALL·E，这类视频可以将真实人物呈现在完全虚构、骇人听闻的情境中，逼真程度令人惊叹。这方面研究的见解有助于我们思考 ChatGPT 可能产生的影响，也或许能让我们对它的悲观看法有所缓和，因为这种悲观可能有些过头了。
深度伪造的制作显然是个问题，但此类视频的广泛传播，可能会让公众对图像所扮演的角色普遍产生怀疑，形成一种“智识犬儒主义”。在 2022 年提出这一看法的作者将其视为一种认识论恶习，因为这会让人们同时怀疑虚构信息和有证据支持的信息。但我不确定犬儒主义真有那么糟：它意味着回到一个并不遥远的时代，那时图像在获取信息方面没有如此重要的作用。在我看来，从认识论角度说，那个时代（20 世纪 30 年代以前）并没有特别糟糕。
提升我们的数字敏感力
无论如何，这种犬儒主义反过来也可能促成一种认识论美德：某种“数字敏感力”，让我们能够在网上流传的大量图片和视频中准确辨别真伪。
ChatGPT 也可能提升这种数字敏感力。阅读这种人工智能生成文本的人，若被它可能喷涌而出的胡说八道所败坏兴致，在网上阅读文本或看到图片时（担心被深度伪造蒙骗）或许会更加谨慎，而不至于陷入普遍怀疑。
世界经济论坛如何确保人工智能得到合乎伦理的发展？
更广泛地说，人工智能的兴起可能凸显培养认识论美德、抵制恶习的必要性，例如人们普遍倾向于不去质疑社交媒体上流传的阴谋论。归根结底，这些令人担忧的技术或许会为智识伦理带来好消息。
• 本文最初以法语发表于The Conversation。
