OpenAI 披露并处置一起有组织的模型蒸馏攻击行动

OpenAI 披露并阻断了一起有组织的模型蒸馏行动,攻击者试图通过操纵对话交互,把模型受保护的内部推理过程提取出来,用于训练或复现其他模型。这类风险并非 OpenAI 独有,OpenAI 已通过 Frontier Model Forum 与行业共享信息。

一句话看懂:OpenAI 披露并阻断了一起有组织的模型蒸馏行动,攻击者试图通过操纵对话交互,把模型受保护的内部推理过程提取出来,用于训练或复现其他模型。这类风险并非 OpenAI 独有,OpenAI 已通过 Frontier Model Forum 与行业共享信息。

事件核心:发生了什么

根据 OpenAI 于 9 月 30 日发布的安全通报,其最早在 7 月第一周观察到相关活动,7 月 24 日至 25 日出现高流量峰值:约 1.6 万次请求、来自 4000 多个账号,使用同一种提取模式。进一步排查发现,相关提示模式分布在超过 1.5 万个账号的集群中,OpenAI 称已在 7 月 28 日前将其完全阻断。

攻击者并未破解加密、入侵数据库或直接读取用户对话记录,而是通过操纵模型交互,让原本隐藏的推理内容以可见形式被复现。其中一种手法是把一段加密推理内容复制到另一段对话中,要求模型解密并转写。独立安全研究人员也通过负责任披露,向 OpenAI 提交了跨模型及对话压缩相关的漏洞,OpenAI 确认这些攻击路径真实存在。OpenAI 将核心活动集群归因于与 Kimi 开发商 Moonshot AI 相关的个人,但表示尚不清楚所有操作者是否来自同一主体。

为什么重要

对抗性蒸馏的关键风险在于,被提取的推理过程可能绕过原模型面向用户输出时施加的安全防护。用这些数据训练出的新模型,可能继承能力却不同步继承安全机制;规模化蒸馏还会降低复现前沿能力的投入门槛,在双用途领域尤其敏感。目前公开信息显示,这属于跨厂商的共性挑战,支持推理内容便携化或可重放的系统都可能面临类似风险。

对用户/开发者/创作者的影响

对普通用户,这次事件不涉及账号密码或聊天记录被直接读取,影响有限。对开发者和企业采购方,需要重新评估“推理内容回传、缓存、跨会话复用”这类设计:如果 API 或中间层允许把加密推理工件在会话、工作区之间搬移,可能成为新的攻击面。使用第三方模型网关或代理服务的团队,也应留意账号来源与调用模式是否异常。对模型厂商和闭源平台而言,加强注册、基础设施与流式输出监控,正在成为与模型能力同等重要的竞争要素。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 OpenAI 提到的“持续中的缓解与调查工作”是否会带来 API 行为、推理输出格式或速率限制的调整;二是被点名的 Moonshot AI 是否回应,以及行业归因是否形成共识;三是 Frontier Model Forum 及政府信息共享渠道能否推动其他前沿实验室公开类似拦截案例,形成可复用的防御标准。

来源:OpenAI News

celebrityanime
celebrityanime
文章: 26589

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注