Anthropic 开源 FlashProve:不暴露权重也能验证 AI 回复出自哪个模型

Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 密码学方法为 AI 回复生成证明,让调用方能确认输出确实来自声称的模型,同时不泄露模型权重。它离产品化还有明显距离,但把“推理可验证”从概念推进到了可测试的工程方案。

一句话看懂:Anthropic 发布开源研究原型 FlashProve,用 zkSNARK 密码学方法为 AI 回复生成证明,让调用方能确认输出确实来自声称的模型,同时不泄露模型权重。它离产品化还有明显距离,但把“推理可验证”从概念推进到了可测试的工程方案。

事件核心:发生了什么

2026 年 11 月,Anthropic 公布研究原型 FlashProve,并开源代码、Lean 证明和文档(Apache 2.0 许可)。它针对的是一个现实漏洞:用户把请求发给 AI 模型时,无法确认返回结果真是由所选模型生成的——路由服务可能悄悄换成更便宜的模型,数据流也可能被篡改。

FlashProve 的做法是先用密码学方法为模型权重生成“数字指纹”,之后每次回复附带一份紧凑证明,表明该输出由该模型生成,且不暴露权重本身。据其技术报告,在单张 H100 GPU 上运行 4000 亿参数的 Meta Llama 4 Maverick 时,证明生成速度约为每秒 110 个 token,单份证明约 19MB,标准 CPU 验证耗时约 17 秒,整体开销约为普通推理的 70 至 95 倍。相比此前同类开源系统处理 1000 token 要 14 小时以上、证明体积达 93.6GB,这是数量级上的改进。

为什么重要

目前 AI API 市场缺乏“模型身份”的可验证机制。供应商换模型、中间层转售、推理环境被攻击,调用方往往只能靠合同和信任。FlashProve 探索的是一条不依赖可信硬件的纯密码学路线:监管机构可核查服务商是否只运行获批模型,企业可证明代码经过特定安全模型审查,服务商也能检测服务器是否被替换或入侵。

这也与 Anthropic 在《Frontier Safety Roadmap》中提出的目标相关——该公司称已通过另一套“签名推理流量 + 可信服务器追踪计算”的项目在 2026 年 9 月完成推理验证原型目标;FlashProve 是同一目标下的密码学替代路径。目前公开信息显示,这仍是研究原型,不是已上线服务,也未提及同行评审。

对用户/开发者/创作者的影响

对开发者和企业采购方,最直接的价值是“模型调用可审计”:如果未来有 API 或网关集成类似证明,团队可以核对实际运行的模型是否与合同、合规要求一致。对使用图像生成、内容创作等 AI 应用的普通用户,短期内影响有限,因为验证机制要等平台侧落地才会感知到。对开源生态,FlashProve 以宽松许可开放,可能推动第三方网关、模型托管服务把“可验证推理”做成差异化能力。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

但限制同样明确:当前只支持最长 1024 token 的上下文,远低于主流模型窗口;只隐藏权重、不隐藏模型架构;且仅适用于模型选择“最可能的下一个 token”的确定性采样,聊天机器人常用的随机采样输出暂不适用。开销 70 至 95 倍也意味着它现阶段更适合合规审计、抽样验证等场景,而不是日常高频推理。

值得关注的后续

一是上下文长度和随机采样支持能否扩展,这决定它能否覆盖真实聊天场景;二是是否有云厂商或 API 网关把证明生成接入生产链路,以及由此带来的定价变化;三是监管侧是否把“可验证推理”纳入模型部署审计要求,这会直接影响供应商的合规成本与技术选型。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 32596

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注