Anthropic开源FlashProve:用zkSNARK证明AI回复来自所宣称的模型

Anthropic发布开源原型FlashProve,允许任何人验证AI回复确实由服务商宣称的模型生成,而不暴露模型权重。这为模型溯源和路由服务透明度提供了一种技术路径。

一句话看懂:Anthropic发布开源原型FlashProve,允许任何人验证AI回复确实由服务商宣称的模型生成,而不暴露模型权重。这为模型溯源和路由服务透明度提供了一种技术路径。

事件核心:发生了什么

Anthropic于周一发布FlashProve,这是一个开源原型,配套代码、技术报告和形式化证明均已公开,代码采用Apache 2.0许可证。其核心思路是“可证明推理”:服务商先公布模型权重的指纹,之后每条回复附带一份密码学证明,表明该回复由这批权重产生,但证明本身不泄露权重内容。

FlashProve采用zkSNARK类零知识证明。Anthropic在Meta开源的Llama 4 Maverick(4000亿参数混合专家模型)上做了测试:单张Nvidia H100生成证明的速度约为每秒110个token,每1024个token请求的证明约19MB;证明生成消耗的GPU时间约为正常推理的70至95倍。普通CPU验证一份证明约需17秒,无需GPU,也无需访问权重。作为对比,此前对同一模型的同类证明处理1000个token耗时14.3小时。

Anthropic表示Claude参与了系统构建,因Claude的选择难以人工审计,团队用Lean形式化验证语言将关键安全保证写成机器可检查的证明。公司同时强调,这是一份中间进展,并非完整研究议程。

为什么重要

当前用户难以判断路由服务是否悄悄换成了更便宜的模型,也难以发现回复是否被篡改。FlashProve试图把“模型身份”变成可验证的事实,这对闭源实验室尤其有意义——Anthropic和OpenAI都保持权重私有,该方法能在不公开权重的前提下提供证据。

潜在场景包括:独立评测机构确认自己测试的正是线上服务的模型;企业客户核对路由服务是否兑现了所购模型;监管方检查服务商芯片上运行的是否为获批模型。这与Anthropic CEO Dario Amodei此前呼吁的“控制前沿AI节奏”相呼应。今年已有实验室指责竞争对手发起蒸馏活动,模型身份验证的需求正在上升。

对用户/开发者/创作者的影响

目前公开信息显示,该原型仅支持1024 token的上下文,远低于聊天机器人常用长度;只适用于混合专家模型;隐藏权重但不隐藏模型设计;也未覆盖时序攻击。Anthropic表示没有在自身或其他实验室部署的计划,TechCrunch报道称其已通过另一个项目实现验证模型输出的目标——对流量签名并在可信服务器上复核。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对开发者和企业采购而言,FlashProve更像一个方向性信号:未来API与路由服务可能附带可验证凭证。但眼下它不能直接用于生产环境,成本(70至95倍GPU时间)和上下文限制都是实际障碍。创作者若依赖第三方模型服务,短期内仍需靠合同和审计,而非密码学证明。

值得关注的后续

一是FlashProve能否扩展到更长上下文和更多模型架构,尤其是非混合专家模型;二是证明生成成本能否降到可商用水平,否则难以进入实际API计费体系;三是是否有云厂商或路由服务跟进类似的可验证推理方案,以及监管机构是否将其纳入合规工具。目前公开信息显示,这些均无明确时间表。

来源:The Next Web

celebrityanime
celebrityanime
文章: 33005

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注