大型语言模型或许擅长模拟推理,但它们难以处理简单的因果关系。神经符号人工智能可以帮助解决这一难题。
人工智能 (AI) 模型能够出色地解决国际数学奥林匹克级别的难题,却无法准确地在模拟时钟上读出时间,这似乎有悖常理。
然而,这确实发生了。据报道,谷歌DeepMind的Gemini Deep Think在2025年国际数学奥林匹克竞赛中获得了35分,并赢得了金牌,而且全程都是用自然语言思考的。 斯坦福大学2026年人工智能指数报告。
同代最佳模型在视觉推理AI基准测试ClockBench上测试中,正确读取时间的概率仅为50.6%,而人类的正确率则高达90.1%。当模型出现故障时,它们往往…… 休息一到三个小时而人类的误差大约为三分钟。
解决这一矛盾的一个有希望的答案是神经符号人工智能,它将神经网络的模式学习与符号系统的规则遵循逻辑相结合。
为什么锯齿状人工智能会带来运营风险
大型语言模型(LLM)在模拟推理方面已经非常出色,因此企业正在将其融入日常工作中。它们能够创建长长的思维链,帮助生成高质量的代码、简洁的文档摘要和原创的数学证明。但它们仍然难以可靠地识别周围世界的属性或进行简单的因果推理。
能够完成某项任务的人工智能模型在其他任务上可能表现得非常糟糕。研究人员称之为“复杂智慧——也被称为“锯齿状前沿”——凸显了不可预测性 人类最适合完成的任务和机器最适合完成的任务之间的界限。
这一点至关重要,因为围绕人工智能构建的工作流程一旦出现故障,就会给企业的产品和运营带来安全隐患。模型还可能在合同中插入虚构的细节,误解客户的问题,或造成违规行为。
风险是可以衡量的。事实上,没有任何模型的得分超过 70.2%。 τ-bench Vals AI 是一个基准测试工具,用于衡量人工智能代理在使用工具并遵循策略规则的情况下完成现实世界任务的能力。模型在现实世界场景中也表现不佳。根据 Vals AI 的基准测试, 据人工智能指数报道最好的模型在从抵押税证明中提取信息时准确率仅为 69.4%,在信贷协议等长篇财务文件中准确率为 68.3%,在入门级财务分析师任务中准确率为 63.3%。
对于企业领导者而言,这意味着人工智能的可靠性是一种需要管理的运营风险,而模型的出色结果并不能保证它在企业自身的工作流程中能够始终如一地运行。
神经符号人工智能的切入点
顾名思义,神经符号人工智能融合了神经网络和符号人工智能。神经网络识别数据中的模式,而符号人工智能则利用知识的形式化表示和推理来创建解决方案。二者结合,可谓集两者之长:利用神经网络处理信息,再利用符号人工智能进行推理,最终生成可验证的解决方案。
人们很容易认为更大的模型会自然而然地克服这些缺陷,而2025年奥运会金牌似乎也印证了这一点。但同一代模型在读取时间等看似简单的任务上仍然表现不佳,这表明仅仅扩大规模并不能解决可靠性问题。
符号推理在解决复杂智能问题方面展现出巨大潜力。在PlanBench(一个旨在测试人工智能规划能力而非模式识别能力的基准测试)上,研究人员发现,当问题的底层结构被模糊化时,大多数前沿模型在多个领域解决的问题数量都会减少。
OpenAI 的 GPT-5 在 Blocksworld 上的解题数量从 45 道题中的 21 道下降到 12 道,在 Sokoban 上的解题数量从 15 道下降到 7 道;而 DeepSeek 的开源推理 LLM DeepSeek-R1 在 Blocksworld 上的解题数量下降到 3 道,在 Floortile 和 Sokoban 上的解题数量则下降到 0 道。然而,符号求解器 LAMA 的解题能力始终保持稳定,无论问题是否经过混淆处理。 人工智能指数这表明,采用结构化的方法可以取得更好的结果。
各大实验室开始应用神经符号推理技术。谷歌DeepMind的 字母几何 它将神经语言模型与符号推理引擎相结合,解决奥林匹克级别的几何问题,并生成可验证的证明。可靠的产品将越来越依赖于此类模型。
监管和人工智能代理提高了风险
随着欧盟人工智能法律的实施,我们开始看到人工智能监管的雏形。自2026年8月2日起,欧盟委员会 一直在执行人工智能法案的部分内容其中包括要求在用户与人工智能交互时必须告知用户的相关规定。针对高风险人工智能系统的更严格规定将于2027年12月2日起生效。
随着这些需求的增长,采用符号推理构建的人工智能可以使其决策过程更容易解释和记录。神经网络历来难以做到这一点,因此添加符号推理有助于我们构建可靠的人工智能。
人工智能的未来将聚焦于能够为企业执行任务的智能体。这些智能体需要能够独立思考问题并提出可靠的解决方案。通过采用神经符号方法,我们可以使人工智能模型能够验证其行为的正确性。
企业应该如何评估人工智能
这意味着企业在采购此类产品时需要改变评估方法。企业领导者需要考察模型在能够反映自身工作负载并施加一定约束条件的AI基准测试中的表现。
他们还需要确保概念验证能够展现模型如何思考问题并自我纠正。模型还应该能够展示其得出答案的过程。
尽管人工智能的能力不断提升,但围绕推理、一致性和可靠性的问题仍然悬而未决。我们曾经拥有能够精确思考但并不可靠的专家系统。如今,我们拥有了可靠性高但无法精确思考的深度学习系统。
神经符号人工智能将使我们能够利用低级逻辑模型(LLM),使其足以胜任对可靠性要求极高的任务。通过赋予神经网络符号思维能力,企业可以同时实现精准性和可靠性。





