如何通过整合而非孤岛让AI在企业中发挥作用

Business process management automation concept using internet technology and ERP (Enterprise Resource Planning) to improve productivity and efficiency, businessman touching computer screen, AR gears: Enterprise AI can be tricky but forward-deployed engineers can sit alongside teams for better results
Enterprise AI can be tricky but forward-deployed engineers can sit alongside teams for better resultsImage: Getty Images/iStockphoto
本内容由人工智能自动翻译。
  • 人工智能(AI)的应用迅速增长,这得益于模型性能的大幅提升。消费者认为其能带来有意义的结果,“基本正确”往往已足够好,而出错的代价较低。

  • 企业AI更具挑战性,因为它依赖干净的数据,并需要在风险更高的情况下实现高度准确。AI必须融入工作流,并从一开始就嵌入治理机制。

  • 前向部署工程师如今被派驻到交付成果的团队之中,而不是孤立地构建AI系统。

人工智能(AI)不仅改变着我们的工作方式,还将数十年的变革压缩至数月之内。

这种加速并非理论上的设想。斯坦福大学《AI指数报告》显示,训练AI系统所用的算力 大约每六个月翻一番。模型性能也得到了大幅提升。

研究人员于2023年推出了新的基准测试:

  • MMMU:用于评估多模态模型在需要大学水平学科知识的大规模多学科任务上的表现。

  • GPQA:用于测试AI的高级推理能力。

  • SWE-bench:用于评估大语言模型在从GitHub收集的真实软件问题上的表现。

一年之后,性能急剧提升:分数上升分别在这些基准测试上提升了18.8分、48.9分和67.3分。

在消费者领域,采用情况呈爆发式增长。一项全球范围的毕马威研究对逾48,000人的调查发现,66%的人定期使用AI,83%的人认为它将带来切实益处。对许多人而言,AI用起来直观,已融入日常生活,帮助人们更快行动、做出更好决策,并减少日常的各种麻烦。

AI模型的能力已达到广泛实用的水平,不再仅仅是实验性的。模型能够以几年前看似不可能的水平进行研究、推理、生成、总结、分类并提供协助。

在消费者场景中,这种能力能够直接转化为价值,因为环境不受约束且容错性强。“基本正确”往往已足够好,而出错的代价较低。

因此,挑战并不在于AI是否有效。它显然能够做到。当这些相同的模型被引入企业环境时,AI能做什么与实际做到什么之间便出现了差距,因为企业环境中的期望、约束和组织变革管理存在根本不同。

企业AI面临哪些挑战?

在企业内部,采用情况更为复杂。尽管投入大量资金,大多数组织仍难以将AI潜力转化为运营变革和可衡量的业务影响。麻省理工学院的一项研究发现,只有5%的定制化AI项目能够投入生产。

毕马威的研究显示,66%的员工依赖AI输出而不核实其准确性,56%的员工表示,因此在工作中犯过错误。

这一差距并非源于模型能力,而在于如何将AI安全、可靠地部署到需要精确性、细微判断和信任的复杂工作流中。

基础必须是干净且统一的数据。试想,你的客户关系管理系统和企业资源规划系统都包含同一位联系人。在一个系统中,他是客户;在另一个系统中,他是供应商。两者的电子邮件地址一致,但其中一条记录包含中间名首字母,另一条则没有。

哪条记录是正确的?哪个系统是权威数据源?而你的AI又会依据哪个版本行事?

这正是企业AI在实践中的样子。与消费级工具不同,企业工作流处于严格的约束之下。它们要求准确性、可衡量性和一致性,同时还需在监管框架、客户期望和真实的财务风险之内运作。这些环境要求极高的精确度;“基本正确”远远不够。

这也是企业AI至今未能兑现其承诺和投资回报的原因。企业必须从分散且多样的数据源中提取信息,依赖并非为协同运作而设计的遗留系统,并试图自动化充满例外情况、人工覆盖和未成文规则的工作流。

在企业环境中,成功较少取决于模型的复杂程度,更多取决于AI与真实工作流的融合程度。从AI中获得最佳成果的组织,会将其直接嵌入日常运营,让一线负责人主导设计与部署,并让工程师与领域专家紧密协作。

治理从一开始就内置于生产之中。传统SaaS方法在这种情境下难以奏效:集中化团队、漫长的反馈循环和固定的需求,并不适用于必须持续适应其所支持工作的AI系统。

要从试验走向执行,组织必须重新思考如何构建、部署和治理AI。

前向部署工程师将如何带来更好的AI?

随着软件构建成本持续下降,成效不再由“开箱即用”的工作流来定义。越来越多地,它由可定制性、服务质量、迭代反馈以及生产环境中的治理来定义。

领先的组织不再由中央技术团队孤立地构建AI、然后移交给用户,而是让工程师直接与负责成果的团队并肩工作。这一演变催生了前向部署工程师这一角色。

这一转变已在重塑组织交付AI的方式。2025年,前向部署工程师的招聘信息增长了超过800%,这标志着企业对价值创造所在之处的看法正在发生更广泛的转变。

前向部署工程师处于工程、运营与执行的交汇点。他们在AI系统构建之前,便与领域专家直接合作,设计其评估标准。

他们依据该评估标准,在真实环境中设计、部署并持续优化AI驱动的工作流。他们不仅仅为测试环境交付功能,还运用科学严谨的方法,确保结果安全可靠。

通过贴近工作现场,他们还能缩短反馈循环、提升可靠性,并确保AI系统适应生产现实,而非理想化的假设。这种贴近性使有效治理成为可能,在工作流中直接设计了人工监督与核验机制。

这一模式的价值在真实部署中体现得尤为明显。在职业体育领域,夏洛特黄蜂队与前向部署工程师合作,将原始视频素材转化为可操作的篮球情报,弥补了一项重大的数据缺口,并使球探与表现决策更加明智。

夏洛特黄蜂队借助前向部署工程师,将原始比赛录像转化为可操作的篮球情报。Image: Jim Dedmon-Imagn Images/Reuters Connect

与其他成功的部署案例一样,成效取决于与一线操作人员的密切协作、持续反馈以及从一开始便嵌入的治理机制。

治理不只是一项政策工作,而是一项关键的运营能力。它界定成功,决定由谁核验输出结果、何时需要人工判断介入,并管理绩效的监控方式,以及系统如何随时间推移安全地持续改进。

当治理被视为事后考虑时,它会拖慢采用进程,并侵蚀信任。当治理被设计进工作流,并由嵌入式的前向部署工程服务予以支持时,它便能实现负责任的部署。

在生成式AI时代,工作的未来将不取决于谁最先采用AI,而取决于谁能重新构想工作的完成方式。成功的组织将围绕AI重新设计工作流,在执行发生之处嵌入工程能力,并将治理视为根基。

AI模型已准备就绪。问题在于,我们的运营模式是否已做好准备迎接它们。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。