ReuF2F 新基准测试编程智能体求解本科科研开放问题,最强模型仅解约 40%

arXiv 上出现一个名为 ReuF2F 的 Lean 4 基准,把 244 道来自本科生科研项目(REU)的开放数学问题形式化,用于评测编程智能体能否端到端给出可机器校验的证明;摘要显示最强模型也只解出约 40%。

一句话看懂:arXiv 上出现一个名为 ReuF2F 的 Lean 4 基准,把 244 道来自本科生科研项目(REU)的开放数学问题形式化,用于评测编程智能体能否端到端给出可机器校验的证明;摘要显示最强模型也只解出约 40%。

事件核心:发生了什么

2026 年 10 月 21 日,arXiv cs.AI 收录论文 ReuF2F。作者认为,随着 AI 系统开始尝试解决开放研究问题,可靠验证变得更重要,而形式数学能提供机器可检查的证明框架。现有形式数学基准多集中在已知结论或少数知名开放问题上,一旦被解出并广泛传播,就很难持续作为“留出”评测集;评测流程也未必贴合现代编程智能体的工作方式。

因此,团队构建了 ReuF2F:从 REU 项目中收集 244 个开放问题并形式化为 Lean 4,覆盖多个数学子领域,偏向关注度较低、可能长期未解的入门级开放问题。评测采用标准编程智能体设定,把问题及其逻辑否定分别放入 Docker 容器中的 Lean 项目,并基于 mini-SWE-agent 构建 Leanimum-agent 作为统一测试框架。摘要称,表现最好的模型也只解决约 40% 的问题。

为什么重要

这指向一个更细分的评测方向:不再只考“会写代码”,而是考智能体能否在 Lean 这类可机器校验的环境中完成开放数学探索。相比知名难题,REU 开放问题曝光少、不易被训练数据覆盖,更适合作为留出测试集。统一容器和 agent harness 也试图减少不同模型比较时的工程差异。目前公开信息仅来自摘要,实验细节和评测稳定性尚待全文核验,不能据此视为永久排名。

对用户/开发者/创作者的影响

对做 AI 编程智能体、形式化数学或自动定理证明的开发者,ReuF2F 提供了一个可参考的任务形态:Lean 项目、Docker 隔离、统一 agent 框架。模型厂商若跟进,需要关注工具调用、长程推理和证明搜索能力,而不只是代码生成。对普通用户,这类基准短期不会直接变成产品功能;对内容创作者,可关注“可验证 AI 科研”这一话题,但应区分基准论文与已上线能力。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是全文是否披露各模型的具体得分、任务分布和失败类型;二是 ReuF2F 与 Leanimum-agent 是否开源、能否被社区复现;三是后续是否出现模型针对形式化开放问题做专项优化,以及基准是否会被快速污染。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 29574

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注