ChatGPT看似只是另一种信息来源，但其生成输出的方式引发了关于可靠性的疑问，一位政治学教授表示。
机器学习模型看似精密复杂，但它们基本上只是复杂的自动补全机器，会重新包装他人的成果，仿佛是全新的内容，却并不理解自己所生成的内容。
因此，尽管ChatGPT可能生成看似连贯的书面作品，但将其输出误认为科学知识并不可取。
在ChatGPT引发的种种反应中，这款由美国营利性公司OpenAI开发、能够对自然语言查询生成语法正确回复的聊天机器人，其引发的反应很少有能与教育工作者和学者的反应相媲美的。
学术出版商已经禁止将ChatGPT列为合著者，并发布严格指南，说明在何种条件下可以使用它。全球各地的顶尖大学和学校，从法国享有盛誉的巴黎政治学院至澳大利亚的众多大学，均已禁止使用该工具。
这些禁令并非仅仅出于担心无法抓住作弊者的学者的举措。这不仅仅是为了抓住未注明出处便抄袭来源的学生。更确切地说，这些举措的严厉程度反映了一个问题，而在对OpenAI的ChatGPT聊天机器人的无休止报道中，这一问题并未得到足够关注：我们为何要相信它输出的任何内容？
这是一个至关重要的问题，因为ChatGPT及类似程序可以轻易地被用于构成我们社会基础的信息来源之中，无论是否注明出处，尤其是学术界和新闻媒体。
基于我对政治 经济学在知识治理方面的研究，学术界禁止使用ChatGPT是对其威胁整个信息生态系统的相称回应。记者和学者应当对使用ChatGPT保持警惕。
基于其输出内容，ChatGPT可能看似只是另一种信息来源或工具。然而，实际上，ChatGPT——或者更确切地说，ChatGPT生成其输出的方式——是直指其作为权威知识来源的可信度的一把匕首。这一点不容轻视。
信任与信息
请思考，为何我们认为某些信息来源或知识类型比其他的更值得信赖。自欧洲启蒙运动以来，我们往往将科学知识等同于一般意义上的知识。
科学不仅仅是实验室研究，它也是一种思维方式，优先重视基于经验的证据，以及在证据收集与评估方面追求透明的方法。它往往是评判所有知识的黄金标准。
例如，记者之所以具有可信度，是因为他们调查信息、引用来源并提供证据。即便报道有时可能包含错误或遗漏，这也并不改变该职业的权威性。
评论文章作者同样如此，尤其是学者和其他专家，因为他们——我们——的权威来自我们作为某一学科专家的身份。专业知识意味着掌握被认可为构成本领域合法知识的来源。
大多数评论文章并不大量引用文献，但负责任的学者能够向你指出思想家和著作 ，即他们 借鉴 的基础。这些来源本身建立在读者应当能够自行核实的可验证来源之上。
真相与输出
由于人类作者与ChatGPT似乎生成相同的输出——句子和段落——有些人可能会误将这种基于科学来源的权威赋予ChatGPT的输出，这是可以理解的。
ChatGPT与记者都能生成句子，但相似之处仅止于此。最重要的——权威的来源——不在于生成什么，而在于如何生成它。
ChatGPT生成句子的方式与记者不同。ChatGPT以及其他机器学习大语言模型可能看似复杂精密，但本质上只是复杂的自动补全机器。区别在于，它们不是在电子邮件中提示下一个词，而是以更长的篇幅生成统计上最可能出现的词语。
这些程序重新包装他人的成果，仿佛是全新的内容。它并不“理解”自己所生成的内容。
这些输出的正当性永远不可能是真理。其所谓真理只是相关性的真理：“sentence”一词在“We finish each other’s …”之后应当总是出现，因为这是最常见的搭配，而非因为它表达了任何已被观察到的事实。
由于ChatGPT的真理只是统计意义上的真理，该程序产生的输出永远无法像我们信任记者或学者的输出那样被信任。它无法被验证，因为其构造方式与我们通常所理解的“科学”方式不同。
你无法核查ChatGPT的来源，因为其来源就是这样一个统计事实：大多数时候，一组词语往往相互跟随出现。
无论ChatGPT的输出看起来多么连贯，直接发布其生成的内容，仍然等同于任由自动补全失控。这是一种不负责任的做法，因为它把这些统计技巧误当作有充分来源、经过验证的知识。
同样，将ChatGPT纳入工作流程的学者及其他人员，面临着动摇整个科学知识大厦根基的生存性风险。
由于ChatGPT的输出基于相关性，作者如何得知其准确无误？他们是否对照实际来源进行了核实，抑或输出内容只是迎合了他们个人的偏见？如果他们是本领域的专家，那么他们为何还要使用ChatGPT？
知识生产与验证
关键在于，ChatGPT的流程无法让我们验证其真实性。相比之下，记者和学者拥有基于科学、以证据为基础的知识生产方法，这种方法能够验证他们的工作，即便结果可能与我们既有的观念相悖。
这一问题对学者而言尤为严峻，因为我们在知识创造中处于核心地位。依赖ChatGPT撰写哪怕一部分专栏文章，就意味着他们不再依赖嵌入已验证来源中的科学权威。
相反，通过借助统计生成的文本，他们实际上是在进行诉诸权威的论证。此类行为还会误导读者，因为读者无法分辨文本出自作者之手还是出自人工智能。
ChatGPT可能如同变魔术一般，生成看似清晰易懂的知识。但我们最好不要将其输出误认为真正的科学知识。切勿将连贯性与理解相混淆。
ChatGPT承诺让人轻松获取新旧知识，但它是一杯毒酒。读者、学者和记者请务必警惕。
