一句话看懂：Hugging Face Papers 收录的论文提出 Dory1.0-4B：一个 40 亿参数的循环式语言模型，同一份权重可通过调整循环次数匹配不同推理算力预算。摘要称两个循环以上即可在 12 项评测的平均成绩上超过更大模型，这对“堆参数换能力”的路线是一个值得跟踪的补充方向。
事件核心：发生了什么
论文发布时间为 2026 年 11 月 2 日。Dory1.0-4B 采用归一化 Transformer（nGPT）骨干，交错滑动窗口注意力与全注意力层，结构分为输入块、共享循环块和输出块；推理时循环块可重复执行任意次数，形成“弹性深度”。预训练使用 6 万亿 token，前 4.5 万亿以 NVFP4 精度训练，后续把上下文扩展到 256K。后训练包含 SFT 与带可验证奖励的强化学习（RLVR），并用难度感知的循环课程把更难的提示分配到更多循环。作者还开源了 BF16、MXFP8、NVFP4 和 GGUF 量化权重。
为什么重要
常规大模型的能力基本在训练时固定，推理阶段只能通过采样次数、思考 token 数等方式加算力。Dory1.0-4B 把“想多久”变成循环层数这一显式旋钮，让单个 checkpoint 覆盖从低延迟到高精度的多个档位，对算力调度和成本控制更友好。摘要给出的关键数据是：两个循环及以上时，12 项基准的平均成绩优于 Qwen3.5-9B、Gemma 4 12B 和 Gemma 4 26B-A4B；在 agentic 基准上，四个循环比一个循环少生成 1.3 至 2.5 倍 token，额外计算放在隐空间而非拉长输出。这些结论仅限摘要所述评测条件，不构成永久排名。KV 缓存只保留最后一轮循环，显存占用据称与非循环模型持平。
对用户/开发者/创作者的影响
对开发者，弹性深度意味着同一模型可按任务复杂度分配推理预算，长上下文和代码任务可用更多循环，简单请求保持低延迟；GGUF 等量化格式开源，也降低了本地部署门槛。对 AI 应用和 Agent 产品，token 消耗下降直接关系 API 调用成本，若结论在实测中成立，值得纳入模型选型对比。对创作者和企业采购，目前公开信息仅限论文摘要，尚无正式产品公告、API 定价或独立第三方复现，不宜据此调整采购决策。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是循环次数增加时准确率的边际收益与延迟成本如何权衡；二是 token 节省与超越更大模型的结论能否被独立评测复现；三是开源权重的实际推理效率、显存占用和生态工具链支持是否兑现。
