正确性反馈反成证据杀手:Verus审计揭示AI代码验证盲区

arXiv 一篇新论文发现,在 Verus/Rust 代码验证任务中,专为修复错误设计的“正确性反馈”反而会抹掉审查规范完整性所需的关键证据,导致认证通过的程序实际上违反真实意图。

一句话看懂:arXiv 一篇新论文发现,在 Verus/Rust 代码验证任务中,专为修复错误设计的“正确性反馈”反而会抹掉审查规范完整性所需的关键证据,导致认证通过的程序实际上违反真实意图。

事件核心:发生了什么

2026 年 10 月 16 日,arXiv cs.AI 发布了一篇题为《When Correctness Feedback Erases Evidence: Phase-Separated Completeness Auditing in Verus》的论文预印本摘要。研究在 12 个 Verus/Rust 任务、四类大模型家族、匹配调用预算的条件下进行测试。结果显示:无反馈的独立发现方式产生的“认证见证”比例达到 59.0%,而 IntentShield 的纠正反馈循环仅为 27.1%。一个格式匹配的迭代对照组表明,差距主要来自反馈内容本身,而非独立重启。该优势在每个模型家族中都成立,并且能通过解析器修复。另有一组相分离执行在不复用响应的情况下达到了相近总体产出。研究还发现,多数认证见证在留出案例上失败。保留这些见证后,规格修复效果更强:Phase-Revised 合约实现成功率为 81.3%,IS-Revised 为 62.5%。摘要指出,该效应在现有 Dafny 和 Lean 评测中未能复现,说明边界限于所研究的 Verus/Rust 工作流。目前信息仅来自论文摘要,全文实验尚未核验。

为什么重要

这项研究直接触及 AI 辅助形式验证的一个核心矛盾:正确性修复与完整性审查在目标上相反。前者希望尽快让程序“通过”,后者恰恰要发现“通过了但行为不对”的案例。如果反馈循环过度引导模型忽略反例证据,那么依赖大模型做合约审计、规格修复的工具可能给出虚假安全感。对 AI 代码生成和程序验证赛道而言,这意味着仅看“修复成功率”不够,还需要审计被压制的失败证据。

对用户/开发者/创作者的影响

对使用 Verus/Rust 的开发者来说,若依赖 AI 做合约补全或修复,不要只接受“编译通过”或“验证通过”的结果,应保留失败案例和反例见证,再决定如何修改规格。对于构建 AI 编程助手、形式验证 API 或代码审查工具的团队,可能需要把“发现并认证不合规行为”的步骤与“修复正确性”的步骤分开执行。普通用户短期内不会直接感知变化,但长期看,这类研究会影响 AI 生成代码的可信度评估方式。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. 论文全文是否公开完整实验设置、模型版本和复现脚本,以及是否经过同行评审。2. 该效应是否会在其他验证语言或更复杂 Rust 项目中复现,尤其是 Dafny 和 Lean 外的生态。3. 是否会有开源或商业工具采纳“相分离审计”思路,把完整性审查和正确性修复拆成独立流水线。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 29284

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注