为什么下一场AI数据竞赛将聚焦于人类专业知识与知识积累

Business People Meeting Conference Discussion Corporate Concept; AI data
Information from doctors, lawyers, scientists and other specialists who can create and evaluate professional tasks is an increasingly valuable form of AI data.Image: iStockphoto/Rawpixel
本内容由人工智能自动翻译。
  • 专家判断、疑难案例与机构反馈正成为专业化人工智能(AI)工具的宝贵输入。

  • 一个快速增长的市场正将AI开发者与医生、律师、科学家及其他能够创建和评估专业任务的专家连接起来。

  • 随着新的AI工具普及,企业可能会发现,自身的工作流程、边缘案例以及专家决策记录能够为其带来更多竞争优势。

2026年,Thinking Machines Lab与Bridgewater Associates希望测试人工智能(AI)能否帮助投资者过滤他们每天需要浏览的大量新闻和研究资料。

该研究测试了六项信息过滤任务,其中包括判断某篇文章是否相关。Bridgewater最初使用非专家标注的示例来界定何为相关或有用,但其中许多判断被证明是错误的。有争议的示例被送交Bridgewater的投资人进行审查,其反馈随后用于对一个专业化模型进行微调。

最终模型的表现优于Bridgewater测试过的其他模型,同时运行成本也大幅降低。

该实验范围有限,但其更广泛的启示很简单:金融信息很容易获取并输入AI工具,但要获得关于何种信息真正重要的可靠判断,则困难得多。

判断力:稀缺的AI数据输入

大语言模型(LLM)是基础模型的一种,基础模型是可适应多种不同任务的通用型AI系统。目前最强大的模型通常被称为前沿模型。

大语言模型能够以极大规模处理金融报告、法律文件和科学论文。但获取这些材料并不能复现在该领域深耕多年之人的判断力。

专家懂得哪些细节值得关注、哪些错误至关重要,以及何时常规流程可能失效。其中一些经验可以被记录下来,但另一些则只有通过人们所做的决策才能显现。例如,一份投资分析可能包含准确的信息,却聚焦于错误的信号。若缺乏可靠的方法来判断示例的质量,单纯增加示例数量的作用十分有限。

即便如此,专家判断也并非唯一的客观真理。专业人士之间可能存在分歧,原因在于他们的目标、风险承受能力或机构优先事项各不相同。基于Bridgewater的决策训练出的模型,学到的是Bridgewater认为相关的内容,而非某种普适的投资判断形式。

正是这种机构特定的判断力,竞争对手在开发基础模型等新型AI工具时可能难以复制,这使得此类数据成为组织在AI时代竞争优势的关键所在。

专家作为AI数据供应链的一部分

对专业化人力投入的需求已经支撑起一个规模可观的商业市场。一个快速增长的企业群体正将AI开发者与医生、律师、科学家及其他能够创建和评估专业任务的专家连接起来。

其中一家公司Micro1的毛年化运行率在八个月内从1亿美元增长至5亿美元,数据来自一篇《TechCrunch》报道。该报道还称,同类公司Mercor的毛年化收入约为20亿美元,Handshake约为10亿美元。这些数字表明了当前专业AI数据与评估方面的支出规模。

这些公司的工作远超传统的数据标注范畴。Mercor介绍其项目涉及专业基准、数据集和评估环境。它要求专家编写贴近现实的问题、审查模型输出,或发现需要领域知识才能识别的错误。

这一市场可能使通用专业知识更容易获取。但与某一特定组织相关的知识——包括其客户信息、过往决策、内部流程和不寻常的边缘案例——则更难购得。

互联网未曾收录的企业知识

许多良好企业决策背后的信息从未在网上公开发布。组织的内部系统中存有大量不寻常的客户案例、运营故障以及多年积累的决策。经验丰富的员工知道哪些例外值得关注,以及何时不应遵循常规流程。

正因如此,律师事务所Kirkland & Ellis已承诺投入5亿美元开发其自有AI平台,该平台汇集了约250名律师和180多名技术专业人员的意见,同时仍继续使用外部AI产品。此信息据《金融时报》报道。

随着功能强大的基础模型向更多组织开放,获取途径对企业在AI应用上取得成果差异的解释力可能会下降。差异或许更多来自更优的检索、更丰富的示例、更严格的评估,或对过往决策结果更好的记录。因此,一个能够持续产生组织专属反馈的系统可能更难被复制。

当员工审查AI输出时,他们会修正建议、驳回看似合理的答案、将不寻常的案例上报,并在之后观察决策是否取得成功。每一次干预都可能揭示优秀表现的标准是什么。

许多组织会记录最终决策,但促成该决策的修正过程却更难被再利用。记录这些修正和决策,可以为未来的评估、检索系统或模型改进积累有用的素材。

合成数据仍需可靠的验证

合成数据是人工生成的数据,而非直接从现实世界观察中收集,它可能减少对部分人工生成示例的需求。

世界经济论坛已探讨过合成数据如何缓解AI发展的限制。此外,英国政府委托编写的《2026年国际AI安全报告》强调,数学、编程和形式推理是合成方法能够有效发挥作用的领域,尤其因为答案可以依据相对明确的标准进行核查。

合成数据的验证也并非总需要人工完成。软件工具、模拟、观测结果或其他AI系统都可以提供反馈。更好的自动化评估器也可能减少对昂贵专家审查的需求。

在经济层面,关键问题在于AI驱动的系统能以多低的成本获得关于其输出是否良好的可信反馈。若验证能够可靠地实现自动化,廉价的合成数据可能变得十分充裕。而若质量取决于稀缺的专业知识,或取决于需要较长时间才能观察到的结果,优质反馈则可能依然昂贵。

捕获判断力也会带来治理问题。员工的修正意见、客户互动记录和专业决策可能包含机密或个人信息。组织需要获得适当的权利来再利用这些数据,并必须对访问实施相应控制。

收集可靠的企业绩效数据

随着越来越多的组织获得功能更强大的基础模型,其竞争优势可能会转向围绕这些模型的反馈,包括哪些输出取得了成功、哪些失败了,以及经验丰富的专业人士驳回了哪些看似合理的答案。

部分此类知识可以被购买或模仿,但一个持续更新的记录——记录某一组织如何做出艰难决策并从结果中学习——可能更难复制。因此,下一场AI数据竞赛的关键或许不在于收集更多信息,而在于获得关于何为真正优秀表现的可靠证据。

授权与转载
世界经济论坛发布的文章,可依据《知识共享署名-非商业性使用-禁止演绎4.0国际公共许可协议》以及我方《使用条款》进行转载。 本文所表达的观点仅代表作者个人立场,并不代表世界经济论坛的观点。