一句话看懂：alphaXiv 2026年10月21日展示的论文提出 LAW 方法，让扩散语言模型在每一步只传递“期望嵌入”而非离散 token，在 GSM8K 等任务上超过此前的离散扩散基线，为并行解码路线提供了新思路。
事件核心：发生了什么
这篇论文研究的是扩散语言模型（DLM）中的 Self-Conditioning 机制，作者称之为“Loopholing”。传统做法在每一步采样时把 token 概率分布坍缩成一个离散 token，论文认为这会造成“采样墙”。LAW 的做法是：初始随机 token 经过嵌入后，每步用模型预测的概率对词表嵌入加权求和，得到连续状态并只传递这个状态，直到最后才一次性解码出 token 序列。训练时以一定概率展开多步前向、只在最后一步计算损失，并配合温度正则和停止梯度。目前公开信息显示，论文在 Sudoku、Maze、TinyGSM 训练的 GSM8K 和 OpenWebText 上报告了结果，但属于学术规模实验，未说明实际推理耗时。
为什么重要
扩散语言模型长期面临“并行但精度不足”的问题，LAW 把连续状态作为唯一传递媒介，等于重新设计了去噪流程的信息通道。若该结论可复现，它会影响大模型推理侧的技术选型：在算力受限场景下，用更多去噪步数换取准确率，可能比逐 token 自回归更具性价比。不过论文只比较了 NFE（去噪器评估次数），并未证明墙钟时间加速，商业化落地仍需验证。
对用户/开发者/创作者的影响
对开发者而言，LAW 提供了一个可参考的开源实现方向，尤其适合研究扩散语言模型的高效采样。对使用 AI 应用的用户，短期内不会直接感知变化，因为这不是已上线产品。对企业采购方，判断点在于该路线能否在真实推理成本下稳定优于自回归模型，目前仅凭摘要不足以定论。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是代码开源后社区能否复现 GSM8K 42.2% 的结果；二是 LAW 微调 Duo 从 17.2% 提升到 48.1% 的结论是否在更多模型上成立；三是有无团队将该方法推进到实际推理服务，并公布延迟与吞吐数据。
来源：alphaXiv
