D-Skill论文：不动权重，用自然语言技能把大模型能力迁移给小模型

事件核心：发生了什么

据 arXiv cs.AI 2026 年 10 月 22 日发布的新论文摘要，D-Skill 将教师模型视为黑盒：先收集教师与学生在同一任务上的成对轨迹，再通过对比分析识别两者行为上的分歧与一致之处，把教师更优的部分整理成“经验”，并离线汇总为一份技能文档，在推理时交给学生模型使用。

摘要称，整个过程不依赖标签、不要求额外与环境交互，也不需要在轨迹收集后更新任何模型权重。在 SpreadsheetBench-Verified、ALFWorld 和棋类谜题等任务、多组师生模型配对上，D-Skill 弥合了 75% 至 95% 的师生差距；单次离线处理后优于一 epoch 的 SFT 基线，与多 epoch SFT 水平接近；同模型家族内，学生每任务推理成本比教师低 5.7 至 8.3 倍。上述结论均来自论文摘要，完整实验与同行评审情况目前公开信息有限。

为什么重要

传统知识蒸馏靠参数更新，需要拿到学生模型权重并消耗额外训练算力，迁移进去的知识还隐含在参数中，不易解释。D-Skill 把能力迁移变成一份可读文档，绕开了权重访问和训练环节，这对闭源模型、算力受限团队和需要审计模型行为的场景都有现实意义。它也提示了一条新思路：模型能力不一定只能“长在参数里”，部分行为差异可以用自然语言规则来补偿。

对用户/开发者/创作者的影响

对开发者而言，如果这条路可复现，小模型配合技能文档就有机会在特定任务上接近大模型表现，同时降低 API 调用或自建推理成本；对使用 AI 智能体处理表格、文本环境任务的应用方，技能文档比黑盒微调更便于人工检查与迭代。但要注意，这是论文方法而非已上线产品，实际效果取决于任务类型、师生模型差距和技能文档质量，目前不宜直接套用到生产链路。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是论文是否公开代码与完整实验细节，尤其是跨模型家族时的稳定性；二是技能文档在长任务、多轮交互中是否会出现规则冲突或过拟合；三是这一思路会不会被模型厂商或 Agent 框架吸收，成为推理侧能力增强的常规组件。

来源：arXiv cs.AI