一句话看懂:arXiv 上出现一项名为 RefactorProof 的评测基准,用来检验大模型为程序生成的数学证明,在程序经过保持行为不变的重构后是否仍然有效,结果显示不同证明来源普遍存在脆弱性。
事件核心:发生了什么
根据 arXiv 2026 年 10 月 28 日发布的新论文摘要,研究团队基于 VERINA 任务构建了 RefactorProof,共从 185 个可编译任务中派生出 458 个经 Lean 认证的变体。做法是把规格说明和待评估的证明逐字节固定,只对程序做结构重构。在结构类重构下,任务归一化 PSR 对随附参考证明为 4.3%,对专用证明器的证明为 13.3%–26.8%。但在 21–25 个可匹配的短非递归任务上,专用证明器生成的证明整体存活率反而更高:DeepSeek-Prover-V2-7B 高 15.6 个百分点,Goedel-Prover-V2-32B 高 18.8 个百分点,Goedel-Prover-V2-8B 高 20.3 个百分点,95% 置信区间均不含零。
为什么重要
可验证代码生成长期以固定实现下的单次证明通过率作为评测口径,RefactorProof 把问题推进到“程序改变、证明是否仍成立”。摘要显示,证明失效并不等于修复成本高:预定义的单标识符编辑可修复 51/54 个符合条件的参考结构失败和 58/85 个证明器失败。这提示行业需要区分“不变证明稳定性”和“证明维护成本”,对 Lean 等证明助手生态中的大模型评测与部署有参考意义。
对用户/开发者/创作者的影响
对使用大模型生成形式化证明的开发者而言,目前公开信息显示,代码重构后不应默认原证明继续可用,需要在重构后重新校验。模型选型也不能只看单次通过率,还要关注重构场景下的存活表现。该结果限定在 VERINA 任务和论文设定的评测条件下,属于学术基准结论,并非产品排名;摘要未说明全文实验细节,实际工程影响仍待核验。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是 RefactorProof 是否公开数据集与评测代码,供社区复现;二是后续研究能否给出重构后证明的自动修复方案,而不只是检测失效;三是更多大模型与证明器在这一基准上的表现是否稳定。
来源:arXiv cs.AI


