你问一个大模型:“猫是动物吗?”它答“是”。“狗会飞吗?”它答“否”。两个都答对了。然后你问:“猫是动物,而且狗不会飞,这句话对吗?”它犹豫了。再问:“猫是动物,或者狗不会飞?”它开始乱猜。当问题变成“猫不是动物,狗也不会飞”时,它的准确率直接掉到了 12.1%。
这不是虚构的段子,是论文里实实在在的实验结果。
2026年8月,一篇题为《From Atomic Evidence to Logical Composition》的论文(arXiv:2608.12836)发布,揭露了一个令人不安的事实:即使大模型对每一个原子判断都答得完全正确,一旦要求它通过 AND、OR、NEITHER/NOR 等逻辑运算符组合这些判断,它的表现就断崖式下跌。NEITHER/NOR 双重否定组合的 macro-F1 仅 12.1,CoT 链式推理也仅能拉到 12.6,几乎没有任何改善。
现象:模型在复合选项上系统性溃败
论文的研究目标非常清晰,就是考察 LLM 在“复合选项”上的推理能力。所谓复合选项,就是两个原子陈述通过逻辑运算符连接后形成的答案。例如一道常识题给出四个选项,其中一个是“Tom is a cat AND Tom likes fish”,模型需要先判断“Tom is a cat”和“Tom likes fish”各自为真,再组合成 AND 的真值判断。
传统评测中,每个选项独立,模型只需选出最可能的一个。但复合选项要求两步:原子判断和逻辑组合,缺一不可。
论文使用 Llama-3.1-8B-Instruct 模型,在温度 0.7、5 次运行平均的标准设置下,在两个基准上展开测试:Logical-CommonsenseQA(常识推理)和 Logical-SATA(类比推理)。每个基准包含大量 AND、OR、NEITHER/NOR 以及混合运算符组合的题目。
结果令人震惊。在直接提示模式(Direct Prompting)下,也就是把包含复合选项的完整问题直接丢给模型,NEITHER/NOR 的 macro-F1 仅 12.1。即使加入 CoT 链式推理提示,也仅升至 12.6。AND 的表现相对好一些(0-shot 64.4),OR 居中(58.7),但整体混合题的 macro-F1 也只有 38.6。
换句话说,当问题涉及“两者都不”这种否定组合时,模型的推理能力几乎完全归零。
分析:模型到底在推理还是在猜?
原子判断和组合推理是两回事
论文的核心发现是:模型在原子判断上的表现与复合选项上的表现之间存在巨大鸿沟。传统评测只关注最终答案,不区分模型是否真理解了,还是猜对了。
NEITHER/NOR 的困境尤其有代表性。当模型需要判断“既不是A也不是B”时,它必须同时确认A为假和B为假,两个否定判断的叠加。从语义上看,“A为假”本身就比“A为真”更难让模型形成稳定的置信度。论文的实验显示,模型在直接面对复合选项时,倾向于把所有原子判断打成一个“包裹”来处理。这个包裹中只要有一个原子判断出错,或者两个否定相互干扰,最终答案就会崩溃。
论文将其称为“组合盲区”(compositional blind spot)。模型在训练数据中见过大量单一陈述的判断,但很少见到两个原子判断通过逻辑运算符组合出现的模式。尤其是 NEITHER/NOR,这种“双重否定”结构在自然语言语料中出现的频率远低于 AND 和 OR。这不是推理能力的缺陷,而是训练数据分布的必然结果。
传统评测的幸存者偏差
传统评测基准(如 MMLU、ARC、GSM8K)从来不以“复合选项”的形式考察模型。它们是一个问题对应一个正确答案,模型只需选出最可能的标签。这种评估方式天然掩盖了模型在组合推理上的缺陷。
如果一个模型在 MMLU 上拿到 90%,我们会认为它“理解”了这些知识。但论文的发现表明,它可能只是掌握了“单个原子判断”的能力,而组合推理完全依靠表面统计模式在猜。当统计模式不够用,比如 NEITHER/NOR 的训练样本稀少,模型就原形毕露。
这也解释了为什么 CoT 改善有限。CoT 引导模型“一步一步思考”,但它没有改变模型处理组合逻辑的基本方式。模型仍然在同一个神经网络中同时做原子判断和逻辑组合,没有真正的外部逻辑介入。
论文的解法:把推理拆成两个阶段
论文提出的框架包含三个关键步骤。
第一步,选项分解(Option Decomposition)。将每个复合选项拆解为独立的原子陈述。例如“Tom is a cat AND Tom likes fish”被拆成“Tom is a cat”和“Tom likes fish”两个原子句。模型看到的是两个独立的是/否问题,而不是一个复合选项。
第二步,对比假设评分(Contrastive Hypothesis Scoring)。对每个原子句,构建两个对比假设,即“A为真”和“A为假”,分别向模型查询其置信度得分。模型始终只面对单个原子判断,永远看不到复合选项。论文还引入了一种“相对校准”(Relative Calibration)机制,将每个原子得分与同实例中其他原子得分进行比较,以消除模型在不同问题上的置信度偏差。
第三步,算子约束整数线性规划(Operator-Constrained ILP)。将校准后的原子得分输入一个整数线性规划求解器,逻辑运算符被编码为硬约束:AND 要求两个原子同时为真,OR 要求至少一个为真,NEITHER/NOR 要求两个同时为假。ILP 在全局约束下选择最优答案组合。
结果提升显著。在 Logical-CommonsenseQA 上,结构化推理(Paired MC + 相对校准)将整体 macro-F1 从直接提示的 48.3 提升至 77.0。在 Logical-SATA 上,从 47.0 提升至 72.2。NEITHER/NOR 的提升最为惊人,从 12.1(0-shot)飙升至 73.0(Platt 校准或 Isotonic 校准)。OR 从 58.7 跃升至 83.7。AND 的提升相对有限(64.4 到 74.8),说明模型在 AND 上本已接近能力上限。
推理幻觉正在成为共识
这篇论文并非孤例。2025 年 6 月,苹果发布《The Illusion of Thinking》论文,揭示了大推理模型(LRM)在复杂度超过某个阈值后准确率完全归零。2026 年 2 月,Song 等人发表《Large Language Model Reasoning Failures》综合调查,系统梳理了 LLM 在组合推理、析取推理和多语言推理上的系统性失败。2026 年 5 月,一篇关于 LLM 数学推理的综合调查进一步指出,当前模型在需要全局一致性的推理任务上普遍存在中间步骤看似合理、最终答案却错误的惯常问题。
这些研究的共同指向是:大模型的“推理”本质上是一种高级的模式匹配,而非真正的逻辑推理。当问题模式在训练数据中有足够样本时,模型表现优异;当问题需要真正的“组合已有知识”时,模型就露出马脚。
论文提出的结构化推理框架,本质上是一种“神经-符号”(Neuro-Symbolic)方法:用神经网络做原子判断(这是它擅长的),再用符号逻辑(ILP)做组合推理(这是它不擅长的)。这种“各取所长”的思路,恰好暗示了当前纯连接主义路线的天花板。
结论:AGI 的叙事需要重新校准
这篇论文的贡献,不仅是在两个基准上把分数从 48 拉到了 77。它更根本的意义是设计了一个干净的实验,把 LLM 的“推理能力”剥开来看。原来模型在原子判断上可以做到 60% 甚至 70% 以上,但一旦涉及逻辑组合,NEITHER/NOR 的准确率就跌到 12.1%。这个 60 个百分点的差距,就是模式匹配和真正推理之间的距离。
对于 AI 行业而言,这传递了一个重要的信号:AGI 的叙事可能需要重新校准。大模型在大量任务上表现惊人,但它们的推理能力可能被严重高估。当问题需要真正的组合逻辑时,纯连接主义的方法可能永远不够。
论文给出的解法,神经判别加符号组合,或许指向了未来更务实的路线。不是让模型学会“推理”,而是让模型做它擅长的事(原子判断),然后让形式系统做它该做的事(逻辑组合)。这听起来不像 AGI 故事里那个“无所不能的通用智能”,但可能才是更可靠的工程路径。
大模型能答对每一道原子题,却输给了一道逻辑组合题。当原子判断和组合推理之间的鸿沟直到今天才被精确测量,60 个百分点的差距,我们或许应该重新问一遍那个问题:大模型到底是在推理,还是在猜?






快报