标签: 人工智能

TraceForge 提出新蒸馏方案:不窃取闭源推理链,按学生模型风格重写推理过程

TraceForge 提出新蒸馏方案:不窃取闭源推理链,按学生模型风格重写推理过程

Hugging Face Papers 收录的论文《TraceForge》提出一种蒸馏替代方案:拿到教师模型的答案后,用学生模型所属的模型家族风格重新生成推理链,而不是解析闭源模型隐藏的推理内容。这项研究值得关注,因为它试图在不违反服务条款的前提下,解决“只有答案、没有推理过程”这一训练数据缺口。