DiffGate 结合 GRPO 与教师引导,提升大模型代码数学推理能力

针对大语言模型后训练中 on-policy distillation 与 RLVR 各自的盲区,研究者提出 DiffGate,将教师指导只用于失败轨迹并按难度缩放,在 Qwen3-0.6B/1.7B 学生模型上提升了代码与数学任务的 pass@8 指标。

针对大语言模型后训练中 on-policy distillation 与 RLVR 各自的盲区,研究者提出 DiffGate,将教师指导只用于失败轨迹并按难度缩放,在 Qwen3-0.6B/1.7B 学生模型上提升了代码与数学任务的 pass@8 指标。

arXiv 2026年10月7日收录的一篇新论文提出 ExPPO,一种轻量级优势重塑规则,用于改善大模型强化学习推理中的探索覆盖,代码已开源。目前公开信息仅来自摘要,实验结论有待全文核验。

一项新研究训练轻量网络把多模态扩散Transformer的中间上下文token映射到冻结大模型,让大模型能直接“读出”正在生成的图像语义;上下文表示越可读,生成结果越容易获得更高的人类偏好评分。

Meta 等机构研究者提出 H-JEPA,把动作条件 JEPA 世界模型训练成端到端层级结构,让高层在更慢的抽象潜空间里长程预测,低层负责局部执行。论文称在 Visual AntMaze 等任务上,分层规划成功率明显高于单层 JEPA,且规划算力更低。

Hugging Face Papers 收录的论文提出 RGPO 框架,把标准答案当作临时“推理支架”,帮助大模型在强化学习中突破奖励稀疏瓶颈,同时保留探索空间。

Artificial Analysis 开源了 AA-AgentPerf-Local,可在笔记本和工作站上回放真实智能体任务来测推理性能,并公布了 NVIDIA DGX Spark、RTX 5090、AMD Ryzen AI Halo 与 MacBook Pro M5 Pro 的首轮对比结果。

arXiv 上一篇新论文提出,自主编码智能体的可靠性并非来自堆算力,而是可通过训练把「搜索定位、编辑多样性、验证打分」三种行为内化进策略。在 SWE-bench Verified 上,该方法以不到基线一半的步数解决了 52.8% 的问题,经强化学习后 pass@1 升至 43.0%。

OpenAI 产品负责人 Alexander Embiricos 将在 10 月 13-15 日于旧金山举行的 TechCrunch Disrupt 2026 上,讨论新发布的常驻个人 AI 代理 Dots。Dots 可拥有云端计算机、连接日常应用并后台持续推进目标,是 OpenAI 在聊天机器人之外的重要下…

一篇新论文提出把以物体为中心的3D生成器(如Trellis 2)改造成单图场景重建工具,通过自适应分块和可见性提示,在室内外场景中同时提升几何精度与视觉质量。

英伟达提出NeMo-DCR方案,通过只传输权重变化量而非全量检查点,将万亿参数强化学习跨区域同步时间从87.5分钟压缩到150秒,并保证比特级精确。