35B开源模型MLExpert冲刺72.7%奖牌率,AI自主调参竞赛升温

一篇发表于2026年10月15日的论文提出后训练方法并训练出35B混合专家(MoE)智能体模型MLExpert,在MLE-Bench Lite上把基础模型的平均奖牌率从37.9%提升到72.7%,让大模型自主完成长周期机器学习工程更接近可用。

一句话看懂:一篇发表于2026年10月15日的论文提出后训练方法并训练出35B混合专家(MoE)智能体模型MLExpert,在MLE-Bench Lite上把基础模型的平均奖牌率从37.9%提升到72.7%,让大模型自主完成长周期机器学习工程更接近可用。

事件核心:发生了什么

根据Hugging Face Papers收录的论文摘要,作者提出一种面向自主长周期机器学习工程(MLE)优化的后训练方法,并用它训练了MLExpert——一个35B参数的混合专家(MoE)智能体模型。配套地,团队设计了Kaggle-MLE Factory来构造可执行任务,并提供模型主导实验的交互框架。方法上分两步:分层智能体监督微调(SFT)把通用工具使用与编程能力迁移到MLE场景;窗口化交互强化学习(WIRL)把两次实验结果之间的多轮决策视为一个执行窗口,给予共享的结果导向奖励,并用异步收集和策略纠正支持轨迹未结束前就更新策略。

摘要给出的评测数据是:在MLE-Bench Lite上,平均奖牌率从基础模型的37.9%提升到72.7%,作者称其表现与Kimi-K3、GLM-5.3等更大规模前沿模型可比。论文还提到在NatureBench Lite、智能体脚手架优化和算法优化上也有提升,暗示学到的优化能力可能具备一定泛化性。需要明确:这些是论文摘要中的主张,尚未经过独立复现,也不代表已上线可用产品。

为什么重要

过去一年,AI写代码、调参、跑实验的讨论多集中在“辅助”层面,而自动化机器学习工程的核心难点在于长周期:一次实验的反馈往往夹杂着前面多个决策的影响,轨迹长、成本高、奖励稀疏。WIRL把执行窗口作为奖励分配单位,属于对“信用分配”问题的工程化回应,这类思路如果被验证有效,会直接影响AI4AI(AI for AI)路线的可行性。

对竞争格局而言,35B MoE模型在特定MLE任务上接近更大模型的表现,意味着“小而专”的后训练路线正在缩小与堆参数路线的差距。若该结论成立,围绕训练方法、评测基准和智能体脚手架的竞争会变得更关键,而不只是比谁的参数和算力多。

对用户/开发者/创作者的影响

对开发者来说,最直接的想象空间是:未来AutoML、实验调度和Kaggle类竞赛的自动化程度可能提升,重复性的特征工程、调参和实验管理或被智能体接管,人力更多转向问题定义和结果判断。开源社区若跟进复现,中小团队也有机会在自有数据上尝试类似后训练流程,而不必完全依赖闭源大模型API。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对普通用户和创作者,短期影响有限:论文不等同于产品,目前公开信息显示没有可直接调用的接口或工具。但它提示行业方向——能自主完成多步实验的智能体,会比只会生成文本或图片的模型更深地嵌入研发工作流。

值得关注的后续

一是复现情况:72.7%的奖牌率能否被独立团队在MLE-Bench Lite上重现,是判断方法有效性的关键。二是泛化边界:NatureBench Lite和算法优化上的提升是否稳定,还需看完整实验设计。三是产品化路径:是否会有开源权重、API或配套工具链放出,以及Kimi-K3、GLM-5.3等更大模型的后续版本是否会跟进同类后训练方法。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 29284

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注