新一代基于人工智能的信息获取系统正在颠覆传统的互联网搜索引擎模式。
这些系统基于大型语言模型，这是一种机器学习技术，通过利用大量可获取的文本（例如维基百科和 PubMed 文章）来学习模式。
一位信息科学家警告说，这些系统虽然能结合互联网知识的广度与深度，提供亲切且量身定制的答案，但也存在不利之处。
他说，这些问题包括准确性和透明度不足，还可能削弱学习者的自主能力。
在搜索引擎成为主流之前，信息获取的主要模式是由图书馆员、学科专家或搜索专家提供相关信息；这种模式具有互动性、个性化、透明且权威的特点。如今，搜索引擎是大多数人获取信息的主要方式，但输入几个关键词，再得到一份按某种未知函数排序的结果列表，并不理想。
新一代基于人工智能的信息获取系统包括微软的Bing/ChatGPT、Google/Bard和Meta/LLaMA，正在颠覆传统搜索引擎的输入与输出模式。这些系统能够接收完整句子甚至段落作为输入，并生成个性化的自然语言回答。
乍看之下，这似乎兼得两全：既能提供亲切且量身定制的答案，又能利用互联网知识的广度与深度。但作为一名研究搜索与推荐系统的研究人员，我认为情况充其量喜忧参半。
ChatGPT 和 Bard 等人工智能系统基于大型语言模型。语言模型是一种机器学习技术，通过利用大量可获取的文本（例如维基百科和 PubMed 文章）来学习模式。简单来说，这些模型会根据一组词语或一个短语，判断下一个最可能出现的词。借助这一机制，它们能够生成句子、段落，甚至整页内容，以回应用户的查询。2023 年 3 月 14 日，OpenAI 发布了这项技术的下一代产品 GPT-4，该模型可同时处理文本和图像输入；微软则宣布，其对话式 Bing 基于 GPT-4。
得益于大量文本训练、微调和其他基于机器学习的方法，这类信息检索技术相当有效。基于大型语言模型的系统会生成个性化回答，以满足信息查询需求。人们认为其效果令人印象深刻：ChatGPT 达到 1 亿用户所用的时间仅为 TikTok 达到这一里程碑所用时间的三分之一。人们使用它不仅是为了寻找答案，还用来生成诊断结果、制定饮食计划和提供投资建议。
不透明与“幻觉”
不过，这类系统有不少弊端。首先，看看大型语言模型的核心：一种将词语及其可能含义联系起来的机制。这会产生常常看似智能的回答，但众所周知，大型语言模型系统会生成近乎鹦鹉学舌的陈述，却并不真正理解内容。因此，这类系统生成的内容即使看起来很聪明，也只是人工智能在适当语境中发现的词语底层模式的反映。
这一局限使大型语言模型系统容易编造或“幻觉式”作答。这些系统也不够聪明，无法理解问题中错误的前提，因此仍会回答有缺陷的问题。例如，当被问及哪位美国总统的头像印在 100 美元纸币上时，ChatGPT 回答本杰明·富兰克林，却没有意识到富兰克林从未担任过总统，而且“100 美元纸币上印有美国总统头像”这一前提本身就是错误的。
问题在于，即使这些系统只有 10% 的时候会出错，你也不知道哪 10% 的回答有误。人们也无法迅速验证系统的回答，因为这些系统缺乏透明度：它们不会透露训练数据、生成答案时使用的来源，也不会说明这些回答是如何生成的。
例如，你可以要求 ChatGPT 撰写一份附有引文的技术报告。但它经常会编造这些引文——“幻觉式”地捏造学术论文的标题和作者。这些系统也不会验证回答的准确性，因此验证工作落到了用户身上，而用户可能没有这样做的动力或技能，甚至意识不到有必要核查人工智能的回答。
窃取内容与流量
缺乏透明度会损害用户的利益，也对系统从中学习的原创内容作者、艺术家和创作者不公平，因为系统既不披露来源，也不提供充分的出处说明。在大多数情况下，创作者得不到报酬或署名，也没有机会表示是否同意。
这也涉及经济层面。在典型的搜索引擎环境中，搜索结果会附上来源链接。这不仅让用户能够核实答案并为来源提供出处说明，也会为这些网站带来流量。许多来源依靠这些流量获得收入。由于大型语言模型系统会直接给出答案，却不提供其依据的来源，我认为这些网站的收入来源很可能会减少。
剥夺学习机会与意外发现
最后，这种获取信息的新方式也可能削弱人们的自主能力，剥夺他们学习的机会。典型的搜索过程让用户能够探索满足信息需求的各种可能性，往往还会促使他们调整搜索目标。它也让用户有学习的机会，了解有哪些信息，以及不同信息如何相互关联、帮助完成任务。此外，它还带来意外发现或意外收获的可能。
这些都是搜索非常重要的方面，但如果系统在不展示来源、也不引导用户逐步探索的情况下直接给出结果，就会剥夺用户获得这些可能性的机会。
大型语言模型是信息获取领域的一大飞跃，为人们提供了通过自然语言进行互动、获得个性化回答，以及发现普通用户往往难以自行得出的答案和模式的方式。但由于其学习和构建回答的方式，它们也存在严重局限。其答案可能错误、有害或带有偏见。
其他信息获取系统也可能遇到这些问题，但大型语言模型人工智能系统还缺乏透明度。更糟的是，它们的自然语言回答可能助长一种错误的信任感和权威感，这对缺乏相关知识的用户可能很危险。
