自回归模型统治语言建模的时代，正在被一条来自图像世界的技术路线撼动。
2024年，扩散语言模型还只是学术圈的一个“有前途的方向”，与自回归模型的性能差距肉眼可见。两年后，局面已彻底翻转。Google 发布了 DiffusionGemma，NVIDIA 拿出了 Nemotron-Labs-Diffusion，创业公司 Inception Labs 的 Mercury 2 在推理速度上做到竞品的5到10倍，每秒超1000个 token，成本不到一半。在学术界，LLaDA 以80亿参数的规模证明：扩散模型可以挑战自回归模型在几乎所有基准上的地位，甚至在一项反向诗歌补全任务上超越 GPT-4o。
这不是渐进式改良。这是一条完全不同的技术路线，正在改写语言模型的基本假设。
自回归的三重结构性瓶颈
要理解扩散语言模型为何值得关注，得先看清自回归范式在哪出了问题。
自回归模型生成文本的方式，是一个 token 接一个 token 地向右推进。生成第10个 token 时，模型“看过”前9个，但对后面可能会写什么一无所知。这种单向因果注意力带来了三个根深蒂固的结构性问题。
犯过的错无法回头。一旦在某一步生成一个错误 token，这个错误就成为后续所有推理的上文，偏差一路传导、逐级放大。文本生成领域长期面对的“雪球效应”，本质上是单向生成结构的天然缺陷。
生成速度被序列过程锁死。一篇500 token 的文章就需要500次串行前向推理。这不只是延迟问题。更致命的是 GPU 利用率极低。现代 GPU 是高度并行的计算设备，但自回归解码让它们大部分时间处于等待状态。
只能用“后视镜”看文本。因果注意力意味着模型永远无法看到某个 token 的“未来”上下文。人类写作时，删除、修改、回看是基本操作，但在自回归架构里，这些能力被设计本身剥夺了。
这些问题并非新发现。早在2020年，研究者就尝试用非自回归生成来解决并行解码的困境，但质量损失太大。为什么直到2024至2026年，才有一条真正具备工程竞争力的替代路线出现？
把“去噪”从图像搬到文本
扩散模型的基本思想来自图像生成：给一张干净图片逐步加噪，直到变成纯随机噪声；然后训练一个模型逆向这个过程，从纯噪声出发，每次去掉一点噪声，最终还原出图像。生成过程不是一步完成，而是经过多次“预测噪声、去除噪声”的迭代，让图像从混沌中浮现。
把这一套搬到离散的文本数据上，关键挑战在于：图像的像素值是连续的，“加噪”的定义天然成立，叠加高斯噪声是光滑可微的。而文本是离散符号，“猫”字的噪声版本应该是什么？没有一个直觉上合理的答案。
早期工作尝试了各种离散噪声方案，质量始终不理想。直到一个极其简洁的洞察出现：把“加噪”等价于“用掩码 token 替换原始 token”。
这就是掩码扩散（Masked Diffusion）的核心思想：前向过程以一定概率把每个 token 替换为特殊的 [MASK] token；逆向过程训练模型根据未掩码的上下文，预测被掩码位置最有可能的原始 token。这看起来和 BERT 的掩码语言模型训练几乎一样。但推理方式不同：BERT 是一次性预测所有掩码位置，而掩码扩散模型通过多轮迭代，每次只预测一部分掩码，逐步逼近最终输出。这种迭代精炼的能力，是扩散模型区别于自回归和纯掩码模型的关键。
2024年，Cornell Tech 的 Subham Sahoo 等人在 NeurIPS 上发表了 MDLM（Simple and Effective Masked Diffusion Language Models），这是关键转折点。他们推导出 Rao-Blackwellized 目标函数，将扩散训练简化为加权 MLM 损失的混合，极大提升了训练效率。在语言建模基准上，掩码扩散模型首次逼近了自回归方法的困惑度水平。从此，扩散语言模型不再是学术玩具。
LLaDA：捅破规模化这层窗户纸
2025年，中国人民大学高瓴人工智能学院团队（Shen Nie 等人）发表的 LLaDA（Large Language Diffusion with mAsking），完成了从“可以工作”到“可以规模化”的跨越。
LLaDA 是一个80亿参数的扩散语言模型，用标准 Transformer 架构参数化掩码预测过程，在2.3万亿 token 上完成预训练。结果震动了整个领域：在15个标准基准上，LLaDA 8B 全面超越 LLaMA2 7B，与 LLaMA3 8B 水平相当，在数学和中文任务上甚至略有优势。在 supervised fine-tuning 后，它展现出令人印象深刻的指令跟随能力，包括多轮对话。
更关键的是，LLaDA 做到了一件自回归模型在架构层面无法完成的事：在反向诗歌补全任务上超越 GPT-4o。这个任务要求模型根据末尾几句反推出开头。自回归模型只能从前往后推理，因果注意力假设锁死了回溯能力。而扩散模型的双向上下文能力，让它能同时“看到”诗歌的头尾，利用全局信息进行推理。这不是“增强”出来的能力，而是架构赋予的先天优势。
LLaDA 被 NeurIPS 2025 接收为 Oral 论文，其核心洞见——一个简单的掩码扩散过程加上标准 Transformer 就足以在规模化上挑战自回归范式——被后续几乎所有扩散 LLM 继承。
工业界的三条技术路线
从 LLaDA 的学术突破到2026年的工业产品，扩散语言模型的工程化落地大致沿着三条路径展开。
Google：以 Canvas 为单位的块级扩散。DiffusionGemma 基于 Gemma 4 的 26B A4B MoE 架构（总参数25.2B，激活参数3.8B），采用 encoder-decoder 设计。encoder 负责处理 prompt 并生成 KV cache，decoder 利用双向注意力处理一个称为 canvas 的 token 块（长度256），通过 cross-attention 访问 cached context。推理时使用多 canvas 采样：迭代去噪整个块，完成后由 encoder 处理并追加到 KV cache，然后生成下一个 canvas。这种“块级自回归”设计使其在 GPU 上实现了最高4倍的生成加速。Google 于2026年6月以 Apache 2.0 开源了该模型。
NVIDIA：三模式合一。Nemotron-Labs-Diffusion 走了一条独特的“兼容主义”路线。它不做纯粹的扩散，而是让同一个模型权重在推理时通过切换 attention pattern，支持自回归（AR）、扩散并行解码和自推测解码三种模式。AR 模式精度与同规模模型相当（8B 版本平均精度63.61%）；扩散模式实现2.57倍 token 吞吐提升；自推测模式最高达6.38倍加速。这种设计兼顾了向前兼容和探索未来，但代价是工程复杂度较高。
Inception Labs：速度至上，专攻推理。Mercury 2 是三者中最激进的一条线。它不做通用对话，而是瞄准推理密集型任务，包括编程、数学推理和 Agent 工作流。在标准 NVIDIA GPU 上，它实现超1000 token/秒的生成速度，首个 token 延迟低于300毫秒，吞吐量是自回归竞品的5到7倍，成本降低最高达70%。定价方面，输入0.25美元/百万 token，输出0.75美元/百万 token，直接对标 Claude Haiku 和 GPT-5 mini。2026年5月，编程辅助工具 Augment Code 已将 Mercury 2 投入生产，称成本降低了90%。Mercury 2 也被称为“第一个推理型扩散 LLM”。通过增加去噪步数，它能在推理阶段消耗更多算力换取更高质量，这一过程在架构层面是天然的。
推理的并行化：下一个 Scaling Law 的钥匙
扩散语言模型最根本的结构性优势，不在当前的质量上。至少目前，在纯文本质量维度上扩散模型刚刚追平自回归。而在于它解锁了一种截然不同的扩展范式。
回顾深度学习过去十年最重要的一条经验：Scaling Law 使模型的智能水平与训练算力投入形成幂律关系。但 Scaling Law 的前提条件是并行计算。Transformer 之所以取代 RNN，不是因为它单次推理更“聪明”，而是因为它的训练过程可以完全并行化，充分利用 GPU 的并行计算能力。RNN 的序列训练瓶颈，锁死了它走向大规模的路。
正如 Kuleshov Group 的研究人员指出的：扩散可能成为推理时间扩展领域的 Transformer。正如 Transformer 将训练从序列推入并行，扩散可能将推理从序列推入并行。
这条逻辑的延伸是：当推理可以并行，单位时间内可消耗的 FLOPs 大幅提升，硬件利用率显著上升，Scaling Law 的边界从“训练阶段”延伸到“推理阶段”。扩散模型不仅能在更短时间内生成更多 token，还能在推理时通过更多迭代步数换取更高的“智能水平”。这一过程是架构原生的，不需要外部框架加持。
当然，这一前景仍面临严峻挑战。扩散 LLM 尚未被扩展到自回归模型那样的千亿参数规模。在通用文本生成权威榜单（MMLU、GPQA、SWE-bench 等）上，扩散模型尚未正面挑战最前沿的自回归模型。DiffusionGemma 在多数基准上比同架构的 Gemma 4 有5到20个百分点的差距。变长序列生成、推理延迟的方差控制、与现有推理基础设施的兼容性，都是待解决的问题。
但这个方向已不再需要证明“能不能用”。它需要的是更大规模的实验。
赛道上都有谁
2026年的扩散语言模型赛道参与者，已不只是学术实验室。Google、NVIDIA、Inception Labs 构成了工业界的三极，而从 Azure AI Foundry 到 Baseten 到 Amazon Bedrock，云平台们正在加速集成扩散 LLM。基础设施层已经在为范式切换做准备。
这场赛跑最大的变量，可能不是谁能做出“最强的模型”，而是谁能在扩散和自回归的融合中找到最优解。业内已有推测：下一代旗舰级大模型可能会引入扩散机制用于长程规划和纠错。如果真的如此，那扩散语言模型就不仅仅是“另一种架构”。它将构成下一代大模型的核心骨架。
从掩码扩散到千亿参数扩散 LLM，这条路走了不到三年。2019年扩散模型在图像领域崭露头角时，没人预料到它会跨界挑战 NLP 的半壁江山。2026年的今天，扩散语言模型站在了大规模量产的门槛上。它们距离真正证明自己比自回归“更聪明”，只差一次更大规模的实验。
那场实验，可能已经在进行了。
快报