一句话看懂：Hugging Face Papers 收录的论文 Ask-to-Distill 提出一种无需标准答案、用分布信号评估并生成合成问题的方法，旨在提升在线蒸馏（OPD）的训练效率，值得关注小样本蒸馏路线的开发者留意。
事件核心：发生了什么
2026年10月20日，Hugging Face Papers 收录论文《Ask to Distill: Learning to Synthesize Data for On-Policy Distillation》。作者观察到在线蒸馏（OPD）用极少量训练问题也能奏效，因此把问题视为“分布知识迁移的载体”。其框架 Ask-to-Distill 将合成问题当作“分布诱导器”，在冻结的学生—教师模型对上计算一个分布替代指标，结合师生分歧、教师概率质量及长度与多样性控制来评估问题价值，再经过滤和去重构建仅含提示的问题库，供标准 OPD 使用。目前公开信息仅为论文摘要，指标细节和完整实验结论尚待核验。
为什么重要
在线蒸馏通常依赖真实问答库，而高质量问题稀缺且昂贵。该工作尝试在没有参考答案、正确性奖励和逐候选学生更新的条件下，自动生成并筛选训练问题，相当于把“数据合成”与“蒸馏目标”绑定。若后续实验可复现，这将降低大模型蒸馏对标注数据和算力的依赖，为开源模型和闭源教师之间的能力迁移提供更低成本的数据路径。
对用户/开发者/创作者的影响
对开发者而言，摘要显示该方法在数学推理、代码生成和智能体任务上，相对未优化的学生生成提示和经 KL 过滤的真实问题，提升了平均表现和教师差距恢复率，并在所评测设置中匹配或超过真实问题库的 OPD。这意味着未来微调小模型时，可能减少人工构造题目的工作量。但需注意，这些结果限定在论文评测条件内，不代表通用排名；普通用户暂时不会直接感知产品变化，创作者也无需因合成数据而改变工作流。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是作者开源的代码与数据能否被社区复现，尤其是分布替代指标在不同教师模型上的稳定性；二是该方法能否扩展到多模态或更长上下文任务；三是若被训练框架集成，是否会出现新的数据合成工具链和 API，进而影响蒸馏服务的成本结构。
