PerMIT 论文提出可机器校验的 LLM Agent 持久记忆完整性方案

arXiv 上一篇新论文提出 PerMIT 记忆架构,试图用“可信输入闸门 + Lean 4 机器校验的完整性定理”限制 LLM Agent 持久记忆被注入和投毒的风险,并让记忆能在多 Agent 间共享。目前仅为论文摘要,尚无已上线产品。

一句话看懂:arXiv 上一篇新论文提出 PerMIT 记忆架构,试图用“可信输入闸门 + Lean 4 机器校验的完整性定理”限制 LLM Agent 持久记忆被注入和投毒的风险,并让记忆能在多 Agent 间共享。目前仅为论文摘要,尚无已上线产品。

事件核心:发生了什么

2026 年 10 月 22 日,arXiv cs.AI 收录论文(编号 2610.28987)。论文指出,持久记忆是 LLM Agent 中基本未被防护的攻击面,注入和投毒风险也限制了 Agent 之间的记忆共享。PerMIT 的思路是设定明确的信任假设:只有用户键入的内容和在闸门处确认过的值才被信任;来自外部环境的数据须经过有限记忆接口才能被释放和使用,同时不破坏 Agent 的多轮规划与工具选择能力。

作者称在有限接口上证明了两个完整性定理,并在 Lean 4 中完成机器校验,确保环境来源的记忆只有在闸门确认后才可能触达敏感操作。摘要给出的评测包括:在 Trojan Hippo 上,配合自校验与轻量验证器,观察到零攻击成功;在 τ²-bench 上,最多 90 个自主 Agent 组成的社区用 PerMIT 共建共享知识库,未发现直接记忆注入被提升,新 Agent 在留出任务上表现改善。这些结论来自摘要,全文实验尚未核验。

为什么重要

Agent 的记忆一旦被污染,错误会跨会话累积,并可能经由共享知识库扩散到其他 Agent。此前多数方案偏工程过滤,PerMIT 尝试把安全约束写成可机器检查的定理,再把每次确认变成对具体内容的可审计判决。这类思路如果成立,有助于把 Agent 记忆从“尽量防”变成“有形式化边界”。

对用户/开发者/创作者的影响

对 Agent 开发者而言,摘要显示的潜在价值在于:社区验证可复用,用户确认记录累积到一定程度后成为社区确认项,理论上无需重复验证;论文还声称随社区扩大,误放毒知识与误删良性知识的风险下降,而人均验证成本不上升。但摘要未给出具体验证延迟、误报率或部署成本,目前公开信息显示距离可直接集成的 API 或 SDK 仍有距离。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是全文是否公开完整实验设置与 Lean 4 证明细节;二是“社区确认”在真实多用户场景下的抗合谋与抗刷票表现;三是是否有 Agent 框架或记忆层产品跟进采用类似闸门机制。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 29653

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注