NADS 用导航模型筛选合成数据，缓解大模型微调中的灾难性遗忘

事件核心：发生了什么

这篇论文关注大模型微调中的老问题：只在新任务数据上做单阶段微调，容易发生灾难性遗忘，而在原始预训练数据不可得时更难补偿。主流缓解思路是掺入合成数据，但候选池往往混杂噪声与冗余样本，选哪些、怎么选直接影响效果。作者提出 NADS：先按目标微调配方训练一个不做保留正则的“导航模型”，用它与预训练模型的偏离程度刻画能力漂移；再以两者的预测分歧为每个合成候选打分，衡量“防遗忘价值”；随后用效率更高的效用—多样性策略构建约束集；最后在新任务数据上微调，同时在选出的约束样本上蒸馏预训练行为。

为什么重要

对多数团队来说，重放原始预训练数据不现实，合成数据+筛选是更可落地的路线。现有方法常依赖间接代理信号，与真实训练收益未必对齐；而大规模候选池上的效用—多样性选择本身也很耗算力。NADS 的思路是把“哪些数据能防止能力漂移”直接建立在模型行为差异上，而不是靠外部启发式。论文摘要称其在任务性能与通用能力保留之间取得更好平衡，并减少筛选开销。需注意，目前公开信息仅为论文页面摘要，实验细节、基准与对比条件尚待完整阅读确认。

对用户/开发者/创作者的影响

对做垂直领域微调的开发者，这类方法可能降低“专门化即退化”的调参成本，尤其适用于无法获取预训练语料的闭源模型或私有数据场景。对使用开源大模型构建 AI 应用、客服、代码助手等产品的团队，数据筛选环节的算力开销下降，意味着小团队也有机会尝试更稳的微调流程。不过 NADS 仍属研究框架，是否有成熟实现、能否与常见微调工具链衔接，目前公开信息显示还不明确。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是作者开源代码能否复现摘要所述效果，以及在更大模型和更多任务上的稳定性；二是导航模型的额外训练成本是否被筛选节省抵消；三是该思路是否被主流微调框架或数据选择工具吸收，形成可用的 API 或插件。

来源：alphaXiv