In a twist of irony, a Chinese open source GLM 5.2 AI model contained ‘rogue’ OpenAI GPT-5.6 Sol in a Hugging Face hack just as the US mulls banning open-weight AI

Hugging Face 遭遇安全事件后发现,智谱 AI 的开源模型 GLM-5.2 反而比多家美国闭源模型更适合用于防御分析。这一事件恰逢美国考虑限制中国开源权重 AI 模型,引发了对“安全限制”与“开放防御”之间矛盾的重新讨论。

一句话看懂:Hugging Face 遭遇安全事件后发现,智谱 AI 的开源模型 GLM-5.2 反而比多家美国闭源模型更适合用于防御分析。这一事件恰逢美国考虑限制中国开源权重 AI 模型,引发了对“安全限制”与“开放防御”之间矛盾的重新讨论。

事件核心:发生了什么

据 TechRadar 报道,Hugging Face 在一次网络安全事件中,借助智谱 AI 的开源模型 GLM-5.2 分析事件相关信息,而多家美国主流 AI 模型因内置安全防护机制拒绝了类似请求。Azure 的 Claude Fable 5 据称会将网络安全类问题导向旧版模型,OpenAI 的 GPT-5.6 Sol 也设置了针对 hacking 相关任务的限制。事件发生后,OpenAI 启动了“Trusted Access”计划,向包括 Hugging Face 在内的少数通过审核的团队开放更高权限的模型能力。Hugging Face 联合创始人 Clement Delangue 对此评论认为,保密并非答案,所有防御方都需要更强大且不受限制的模型,尤其是开源模型。

为什么重要

这起事件将开源 AI 的政策辩论推到了更现实的层面:当安全防护本身成为防御工作的障碍时,限制开源权重模型的呼声就需要被重新审视。目前美国正在考虑是否对中国开源权重 AI 模型实施更广泛的限制,近 200 家硅谷公司对此表示反对,认为这会提高小开发者的成本,反而削弱美国初创企业的竞争力。“Little Tech Association”创始人 Suhail Doshi 警告称,大量公司可能因限制而倒闭,而大型 AI 供应商将因此受益。伦敦国王学院战争研究系访问高级研究员 Lukasz Olejnik 指出,安全机制限制合法防御者,却让攻击者继续获得可用模型,会造成不对称劣势。

对用户/开发者/创作者的影响

对开发者而言,这一事件提示不要过度依赖单一闭源模型进行安全相关工作,开源模型在特定场景下可能更具可用性。对使用 API 的团队来说,模型提供方的安全策略可能随时调整,企业应评估自身业务对模型安全边界的依赖程度。对普通用户而言,开源与闭源模型的竞争格局将影响未来 AI 产品的定价、可用性和功能边界。目前在公开信息中,尚无法确认 GLM-5.2 在此次事件中具体承担了哪些分析任务,但其实际表现已成为支持“开源模型可用于防御”的重要案例。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,美国对中国开源权重模型的限制是否会进入实质立法或行政令阶段,以及“Little Tech Association”等组织的反对能否影响决策;第二,OpenAI 的 Trusted Access 计划是否会扩大覆盖范围,还是会形成新的“安全特权分层”;第三,开源社区是否会借此次事件推动更细分的模型安全机制——在保留防护能力的同时,让合法防御者能够获得足够权限,而非简单地在所有模型上施加统一限制。

来源:TechRadar

celebrityanime
celebrityanime
文章: 16613

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注