网络搜索工具的使用，以及基于大语言模型（LLM）的智能体的相关发展，对AI能力提升具有深远影响。
ChatGPT的联网搜索功能，有助于遏制模型产生幻觉的倾向，并扩展其知识库。
与其他工具一样，网络搜索使ChatGPT更加强大，但我们有责任确保这种力量朝着积极的方向发挥作用。
ChatGPT是基于GPT4等模型构建的应用，现已具备图像处理、语音识别和网络搜索功能。图像处理展示了多模态的力量，语音识别预示着下一代人机交互，而网络搜索则显得较为普通。
虽然不那么新颖，但网络搜索体现了AI系统开发中一个具有重大影响的趋势：工具使用。工具使用以及基于大语言模型（LLM）的智能体的相关发展，对AI能力提升具有深远影响。它们是OpenAI的Andrey Karpathy所称的“新操作系统”，推动工程领域不断演变的范式转变，开启了应用的新纪元。
ChatGPT的联网搜索
ChatGPT的联网搜索功能，有助于遏制模型产生幻觉的倾向，并扩展其知识库。 幻觉在要求信息准确且及时更新的情况下，幻觉是一大挑战。网络搜索使ChatGPT能够获取当前数据，为其“上下文窗口”提供准确信息，从而减少幻觉。
当用户提出查询时，ChatGPT可以从网络上获取最新且最相关的信息，而不是仅依赖其预训练数据。该功能不仅提升了准确性，还丰富了ChatGPT所能提供信息的深度和广度，为更加知情、精准的互动铺平道路。
ChatGPT何时发起网络搜索，由一套机制决定，该机制结合了预设协议与启发式评估。虽然用户可以指示其进行网络搜索，但它也内置了启发式规则，用以判断网络搜索何时可能有益。例如，当遇到有关近期事件或数据相关的问题时，ChatGPT可能会自动触发网络搜索，以弥补其自身知识的不足。
拓展视野：工具使用与智能体
尽管强大，网络搜索只是AI工具使用的一个示例，其影响深远，将补充并扩展由模型自身复杂程度所推动的能力发展。
大语言模型（如ChatGPT）现已能够与外部工具交互，演变为支撑高能力AI系统的核心推理引擎。这些交互通过API进行编排，使大语言模型能够发出指令、接收响应并执行大量功能。有些工具高度专一，而网络搜索等工具则对AI系统的能力具有巨大影响。
例如，复杂的记忆系统使AI系统能够利用外部数据源，并建立自身可调用的记忆库。代码评估可能是最通用的工具，已被整合进OpenAI的强大AI系统中，例如Code Interpreter（或其开源类似产品）。
随着Code Interpreter的出现，我们看到了AI工具使用的下一层级的复杂性。Code Interpreter不仅仅是一种工具，它更是一种智能体，能够追求更高层次的目标（例如分析数据集），并通过工具迭代推理和采取行动，直至目标达成。
世界经济论坛如何为人工智能构建护栏？
人工智能卓越中心该中心将各行业的领导者联系起来，共同理解人工智能的快速演变及其对经济和社会的影响。它支持就人工智能应用相关的机遇、风险和权衡进行知情对话。
通过可信赖的交流空间和协作性倡议，该中心使合作伙伴能够建立共同认知，并携手推进负责任的人工智能创新与应用方式。
尽管Code Interpreter被宣传为调试和数据分析工具，但“智能体”可以根据其能够访问的工具被导向各种任务。执行任意代码具有极强的通用性，但根据应用场景，可能更倾向于使用针对特定用例的工具集。如前所述，借助网页浏览工具，ChatGPT等大语言模型可以根据用户的查询，自主地从网络上获取、筛选和综合信息。
在智能体的语境下，行动循环不必止步于简单查询。相反，可以追求更长期的研究目标，从而实现AI研究助理的现实应用。部署其他AI智能体实例是一种强大的工具，可使一个AI智能体充当子任务的某种管理者，整合众多其他智能体的工作（这一构想的早期原型曾由AutoGPT推广开来）。
虽然在某种意义上，“智能体”一词有些过度拟人化（促使我们思考：这些系统是否像人类甚至强化学习系统一样拥有目标？），但从这些系统的行为来看，即它们如同将更高层次的目标分解为子目标并采取相关行动以实现这些目标，该术语仍然是恰当的。
这对AI能力的未来具有重大影响。与前沿AI系统相比，新工具可以更快速、更具民主化的方式开发，但它们可能对这些系统的通用性和复杂程度产生相应影响。通用人工智能（AGI）是一个模糊的概念，但在更复杂的智能体式AI系统中融入与GPT4具有相似能力的系统，可能会实现在多样任务上媲美人类的表现。
智能体与人类监督
随着这些AI智能体能力的增长，从单纯的工具演变为能够自主追求更高层次目标的实体，人类监督变得复杂但至关重要。“人在（或凌驾于）回路中”指的是人机系统中，人类能够在AI系统采取行动时理解、监控并指导这些系统。然而，随着AI智能体日益擅长处理更抽象的任务，人类干预的粒度与频率势必发生变化。
正如我们所讨论的，AI智能体可以承担越来越抽象的任务，从而降低人类监督的实际必要性，并模糊单一决策的概念。评估一份简历是一种决策；评估一摞简历并挑选出最优候选人是另一种决策；而在筛选候选人池之前确定评估标准，则又是另一种决策。
随着AI智能体在任务处理中不断攀升抽象阶梯，人类监督的图景将发生转变。每上升一级，它们都会降低人类监督的实际必要性，并可能重新定义单一决策的概念。市场激励可能会进一步加速这一转变，导致监督随时间推移而减少，因为我们会将更加抽象的目标托付给AI系统。若我们认为这将带来不利影响，无论是出于对AI偏见、价值对齐或稳健性的担忧，我们都必须确保人类监督易于实施并得到适当激励。
与其他工具一样，网络搜索使ChatGPT更加强大。我们有责任确保这种力量被导向积极的方向。
