一句话看懂：Hugging Face Papers 收录的论文《Order-Only On-Policy Distillation》提出 O³PD：在策略蒸馏中只让学生模型复现教师模型 top-K 候选词元的排序，不拟合具体概率值，从而摆脱教师温度调参。摘要称在六组教师—学生模型组合上平均优于传统 OPD。
事件核心：发生了什么
该论文（原始来源发布时间为 2026 年 11 月 1 日）聚焦在策略蒸馏（OPD）：学生模型基于自己生成的文本，对齐教师模型的 token 概率。作者指出，教师概率同时包含“偏好哪个词”和“有多确信”两类信息，后者受教师自身能力与校准影响，小模型未必学得来；调整教师温度会改变概率值却不改变排序，因此 OPD 对温度选择敏感。
据此提出 O³PD：在每个学生生成的前缀处，只训练学生还原教师 top-K 词元的先后顺序。据摘要，在 HMMT25、AIME24、AIME25 三项数学评测的平均值上，六组教师—学生组合全部胜过 OPD，最高提升 2.9 分，AIME25 单项最高提升 5.6 分。目前公开信息仅为摘要，未核验全文实验细节。
为什么重要
蒸馏是大模型压缩和低成本部署的常用手段，而 OPD 需要按教师概率逐词对齐，往往要调温度和损失权重。若“只学排序”成立，蒸馏目标就对教师温度不敏感，可减少超参搜索，也避免小模型强行模仿教师过度自信的概率分布。摘要中的分析认为，O³PD 与教师概率的偏离反而更大，但排序还原更准确、学生更强，这指向一个值得关注的判断：在策略蒸馏中，排序携带的知识可能比概率数值更关键。
对用户/开发者/创作者的影响
对做模型微调与蒸馏的开发者，这条路线提供了一种更轻的监督信号：不必拿到精细的教师概率，只需 top-K 排序，工程上可能更易实现，也便于在不同教师之间迁移。不过这一结论仅限论文摘要中的数学推理评测，尚不能外推到通用对话、代码生成或多模态任务。对调用开源模型或自建推理服务的团队，它更多是训练侧的方法参考，短期内不会改变现成 API 的行为或价格。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
其一，论文是否公开代码与完整实验设置，尤其是六组教师—学生组合的规模与训练成本；其二，K 值、排序损失形式变化时增益是否稳定，是否在数学以外的评测上复现；其三，是否有开源框架把“仅排序蒸馏”做成可复用训练组件，降低开发者接入门槛。
