小模型持续学习新方案:合成自蒸馏SynthSelf绕过分布偏移

针对小模型在持续后训练中“学新忘旧”的难题,研究者提出 SynthSelf 方法,用小幅度同族对齐模型承担分布内改写任务,在 4 个习得数据集和 14 项保持基准上优于 6 种对比方法。该工作目前仅为论文摘要信息,尚未核验全文实验。

针对小模型在持续后训练中“学新忘旧”的难题,研究者提出 SynthSelf 方法,用小幅度同族对齐模型承担分布内改写任务,在 4 个习得数据集和 14 项保持基准上优于 6 种对比方法。该工作目前仅为论文摘要信息,尚未核验全文实验。

Cloudflare 于 2026 年 10 月 9 日发布开源多模态决策模型 Clef-omni,可在一次调用中为文本、图像、音频和视频打分,省去多模态 Agent 管线中常见的转录和标注步骤。

arXiv 上线的一篇新论文提出 EvoBelief,把智能体对环境的认知拆成可被证伪、可被推翻的规则,让模型在不更新参数的前提下积累和修正环境知识。

一项名为 SepGen 的研究把音视频生成与音频分离合并到一次采样过程中,让视频 soundtrack 里的每个声源都能以独立音轨形式导出,而不只是混成一条音频。

开发者 Dragos Mocrii 在 GitHub 发布 proc-stats,为 Claude Code 增加状态行与任务管理面板,实时显示会话及其子进程的内存、CPU 占用,并可终止进程。这让 AI 编程代理的资源消耗第一次变得像系统进程一样可观察、可管理。

arXiv 上一项新研究提出用蒸馏最优传输做表征对齐,在只有约 100 到 500 对配对样本时,把两个独立预训练的单模态编码器映射到同一坐标系,并在图像-文本与分子-文本任务上报告了优于现有方法的结果。

Hugging Face Papers 于 2026 年 10 月 8 日收录的论文提出 Reflex 三阶段框架,让宇树 G1 人形机器人靠自身 RGB-D 视觉接住抛来的箱子,5 米距离成功率 40%,约为人类接球者同距离表现的一半以上。

arXiv 上一项新研究提出用大模型分块提取、分层路由与迭代精炼,把硬件数据手册自动转成可溯源的层级知识图谱,在 20 份手册评测中属性忠实度达 98.8%,明显高于一次性处理的 76.1%。

alphaXiv 收录的论文提出 Artisan,把多智能体生成流程与 MuJoCo 物理模拟反馈结合,让生成的可动 3D 资产不仅看起来对,还能避免运动碰撞、保持重力稳定,并在评测中把单关节碰撞率从 35.7% 降到 1.9%。

开发者 Brandon Thomas 借助 Claude Opus 5.5 重写 Adobe 旗下七款软件并开源为 REA 项目,GitHub Star 数逼近 10 万。这再次把“大模型辅助逆向与重写闭源软件”的可行性和法律边界推到台前。