AI智能体的兴起：益处、风险与应对之道

本内容由人工智能自动翻译。

在人工智能迅速发展的领域，一个有望彻底改变我们工作方式和与技术互动方式的新前沿正在兴起。

想象一下，你从工作中抽身，开车前往度假目的地。天气转变，导致周边气温下降，车流量增加。

你的汽车信息娱乐系统已经评估了这些新数据，于是调高暖气、为你改道至更畅通的道路，并推荐一处午餐地点，让你可以在那里躲避风暴。

德勤预测，到2027年，使用生成式人工智能的企业中，有一半将推出智能体式人工智能试点项目或概念验证，使其能够充当智能助手，在极少人工监督下执行复杂任务。

在这一技术飞跃即将到来之际，了解AI智能体是什么、它们可能产生的影响，以及如何应对相关风险，至关重要。

世界经济论坛与凯捷合作发布了一份新的白皮书，《探索AI前沿：AI智能体的演进与影响入门指南》，探讨AI智能体的能力及其影响，帮助利益相关方更好地了解这些系统如何推动各行业取得实质性进展。

“人工智能代理”可能会改变工作场所。但它们究竟是什么？

03:17

什么是AI智能体？它们如何运作？

AI智能体（或称“智能体式人工智能”）是能够感知环境并采取行动以实现目标的自主系统。众多科技公司正在开发AI智能体，这些智能体有望改变各行业并重新定义生产力。

微软、IBM等公司已取得显著进展，而据悉，OpenAI计划于1月推出一款代号为“Operator”的AI智能体，使其能够自主执行编程和预订旅行等任务。

Cognition Software于2024年3月推出了“Devin”，这是一名自主软件工程师，能够根据自然语言提示执行复杂的编程任务。

投资者已认识到AI智能体的潜力，在过去两年里向专注于企业应用的初创公司投入了超过20亿美元。这股资本与创新浪潮正推动该技术迅速进步。

智能体式人工智能正在快速进步。Image: 德勤

AI智能体实际上由若干核心组成部分构成：

AI智能体的运作方式。Image: 世界经济论坛

先进AI智能体的控制中心负责管理用户输入、决策与规划、记忆管理、工具访问以及系统执行器之间的信息流，从而支持其在数字或物理环境中采取行动。

随着技术发展，我们预计将看到更复杂的多智能体系统（MAS），能够分配任务并协作解决复杂问题。

例如，在智慧城市中，多智能体系统（MAS）可利用车联网（V2X）通信实时管理交通流量，使车辆能够与其他车辆、行人和道路基础设施互动。

我们还将看到多模态数据分析得到更广泛的集成，使智能体能够解读和生成包括文本、语音和视频在内的各种数据，以及针对不同行业独特需求量身定制的应用。

随着AI智能体的推理、规划和自我检查能力不断增强，它们将能够执行超出用户技能范围的任务，例如专业编程；也可以快速、大规模地承担更繁琐的工作。

在人才短缺的环境下，AI智能体有助于弥补各行业的技能缺口，尤其是在缺乏人类专业知识或相关技能需求旺盛的领域。

据《探索AI前沿》报告，增强自主性使AI智能体能够应对开放式的现实挑战，从科学发现到提升供应链效率，还能支持实体机器人操纵物体并在物理环境中导航。

该报告介绍了AI智能体在五个领域中的现实应用，涵盖软件开发、教育、金融、客户服务和医疗保健，例如加强欺诈检测、实现个性化学习，以及改进诊断和患者治疗。

人工智能卓越中心汇聚各行业领导者，共同理解人工智能的快速演进及其对经济和社会的影响。该中心支持各方围绕采用人工智能所带来的机遇、风险和权衡开展知情对话。

通过值得信赖的交流空间和协作举措，该中心帮助合作伙伴增进共识，并携手探索负责任的人工智能创新与应用方式。

尽管AI智能体潜力巨大，但它们也带来一些风险，包括技术局限、伦理问题以及更广泛的社会影响。这些风险与系统的自主程度，以及在人类不再参与其中时其应用的整体潜力有关。

技术风险包括错误、故障和安全问题，例如可能使网络攻击实现自动化。AI智能体的自主性引发了有关决策和问责的伦理问题；此外，社会经济风险还包括潜在的岗位流失、过度依赖和能力受限。

发挥AI智能体的益处并降低风险，取决于智能体所处的具体环境及其应用场景。

组织在应对AI智能体风险时，应考虑以下几项措施：

AI智能体的兴起不仅是技术变革，也改变了我们对工作以及人机协作的理解。通过了解AI智能体的能力与局限，并制定周全的部署策略，企业能够充分发挥这项突破性技术的潜力，同时降低相关风险。

展望未来，在拥抱创新的同时确保负责任地实施，将至关重要。AI智能体正在重塑未来工作，明智适应者将最有可能在这一新格局中蓬勃发展。

授权与转载

世界经济论坛发布的文章，可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。本文所表达的观点仅代表作者个人立场，并不代表世界经济论坛的观点。