AI智能体是指能够自动化完成复杂任务的工具，因大型语言模型（LLM）的出现而重新受到关注。
更复杂的AI系统的开发与部署需要更完善的安全和治理流程。
世界经济论坛与Capgemini发布了一份新的白皮书，《驾驭AI前沿：AI智能体的演进与影响入门》，该白皮书探讨了这些智能助手的能力及其影响。
AI智能体的概念诞生于20世纪90年代，指代代表用户自主运行的智能软件实体，能够在互联网等环境中导航。当时的互联网相当简单：以文本为主，偶尔穿插一些图片，并附有超链接。当时并没有像样的搜索引擎，因此用AI智能体代替人类代为浏览网页似乎颇具价值。当时AI的发展水平也决定了，只有在这种简化的环境中，人们才对它们抱有希望，而非面对人类所处的复杂现实世界。
随着大型语言模型（LLM）的出现及其自然语言理解与推理能力的提升，人们对AI智能体的兴趣再度升温。Salesforce和ServiceNow等公司已开始推出代表其应用程序的专用智能体。例如，Salesforce正利用智能体实现客户关系管理（CRM）的自动化，包括自动执行任务、分析数据以及为客户互动提供个性化服务。这些现代AI智能体利用LLM理解并响应自然语言，并决定何时以及如何调用工具，例如网络搜索、代码执行、API调用和数据检索命令。
AI智能体的安全与治理流程
鉴于其角色定位，智能体在使用工具与外部世界互动时，应具备一定程度的自主性。在某些情况下，例如在容器中运行代码，其后果可以得到控制和限制。在另一些情况下，则需要施以一定程度的审查与谨慎，以避免智能体自主行为带来的不良后果。智能体的“大脑”本质上是一个不透明的神经网络（即LLM），这一事实使问题更加复杂。基于LLM的智能体还容易产生幻觉，或误解本质上含糊不清的自然语言表达，因此，我们在稳健性上所获得的提升，可能会在一致性上有所损失。
可采取多种缓解策略来降低这些风险，包括：针对某些智能体决策设定可覆盖规则或寻求人工批准；评估智能体行为的不确定性；以及为智能体配备监督智能体，以监控并防范潜在危害。
鉴于这种必要的监督，我们需要一套不同于传统软件的、针对基于智能体系统的测试机制。然而，好消息是，自工业化时代开启以来，我们一直在运行由人类驱动的组织和工作流程，因此我们对此类系统的测试早已习以为常。
目前最先进的生成式AI模型，使单个智能体难以有效地处理大量复杂指令，也难以执行过多种类繁杂且复杂的任务。受限于上下文窗口的限制以及LLM推理能力的局限，将职责拆分给多个相互连接、协同运作的AI智能体，往往更为有效，从而完成工作。
正如我们不会将编写一套完整CRM系统的任务交给单个软件工程师一样，要求一个AI智能体为完整的CRM系统编写代码可能是一项艰巨的任务；然而，由代表项目管理、前端和后端工程以及质量保证等不同职责的智能体组成团队，协同工作，则更有可能成功完成任务。
多智能体AI的作用
多智能体AI领域要求智能体之间能够进行沟通与协调。这既可以发生在一个智能体团队的语境中（这意味着协作），也可以发生在不同信任程度甚至相互对立的智能体团队之间。
代表软件或组织各类工作流程的多智能体系统可带来若干显著优势，包括生产力提升、运营韧性增强、稳健性改善，以及能够更快地升级不同模块。企业正迅速转向采用单智能体解决方案，而多智能体系统似乎是一种不可避免且颇具颠覆性的未来形态。
LLM能够理解自然语言，因此，开箱即用，我们便拥有了一套适用于智能体间通信的通用协议。由于自然语言在表达意图方面具有灵活性，且基于LLM的智能体能够将此类意图映射为调用其工具的方式，未来的软件系统将远比当今的系统更不脆弱：负责某项功能的智能体会将意图映射为具体的API调用，因此更换API或采用功能相似的其他软件也将轻松得多。这将使组织在升级或使用第三方服务时拥有更大的灵活性。
世界经济论坛如何帮助领导者理解AI并携手推动负责任的创新
AI卓越中心致力于连接各行业的领导者，共同理解人工智能的快速演进及其对经济体和社会的影响。该中心支持围绕AI应用所涉及的机遇、风险及权衡展开知情对话。
该中心通过值得信赖的交流平台和合作倡议，帮助合作伙伴建立共识，并携手探索负责任的AI创新与应用方式。
如果智能体间的通信与协调能够以保障职责封装的方式进行，那么未来的企业应用将更加稳健，新的能力和功能可以引入到已有的智能体网络中，几乎无需对既有系统进行重新设计。
要利用智能体增强组织能力，首先应梳理组织内各类参与者的流程、角色、责任节点及相互连接关系。这里所说的参与者，是指在组织内充当知识工作者的个人和/或软件应用程序。
除了每个智能体的系统提示词中以自然语言定义的一系列角色与职责外，智能体还可以包含或不包含可供调用的工具，并向工具传递各种参数。例如，产品经理智能体可能需要能够处理虚拟看板上的各类工单，或者预警智能体可能需要调用某个工具，在预警系统中发布各类警报。这意味着第三方智能体的互操作性将成为必然要求，并且必须形成各智能体都需遵循的标准，组织才能将其接入自身的智能体网络。
代表各类组织角色与工作流程的多智能体系统，有潜力打破部门壁垒，并揭示随时间累积、使企业受制并降低效率的各类低效问题。观察多智能体流程的运行情况，有助于我们解决此类问题。
未来组织的架构将由相互连接的智能体构成；然而，在可预见的未来，除非社会文化发生根本性转变，人类仍将是唯一的责任承担者。这意味着，多智能体系统的管理与设计，应以人类作为高风险行为的最终裁决者和审批者。
