神了,有神人用破甲模型中转站拿 AI 攻击中国政府网站,最后把整个中转站都送走了。 今天看到好几个破甲模型站的群直接炸了。 这里解释一下什么叫「破甲模型站」。 简单来说,就是有人通过越狱提示词、修改 System Prompt 等方式,绕过或削弱开源、闭源模型原本的安全限制,再通过 API 中转站把这些「破甲」后的模型提供给用户使用。 根据流传的截图,有个群主在群里称,有人用「破甲模型」攻击政府网站,今天开始被慢慢排查,随后管理员直接…

有用户通过“破甲模型”API 中转站,尝试攻击中国政府网站并疑似获取后台权限,最终导致该中转站宣布停止运营。这件事首次将“无安全限制大模型被用于真实网络攻击”从讨论变成了实战案例。

一句话看懂:有用户通过“破甲模型”API 中转站,尝试攻击中国政府网站并疑似获取后台权限,最终导致该中转站宣布停止运营。这件事首次将“无安全限制大模型被用于真实网络攻击”从讨论变成了实战案例。

事件核心:发生了什么

@MaxForAI 的帖文,8 月 19 日多个“破甲模型站”的社群被解散。所谓“破甲模型站”,是指通过越狱提示词或修改 System Prompt,削弱开源、闭源模型安全限制后,再以 API 中转形式向用户提供服务的平台。

根据流传截图,有用户使用这类“破甲模型”对一个 .gov.cn 网站发起攻击,疑似获取了该网站 CMS 超级管理员权限,可看到 512 名 CMS 用户、7300 名前台实名用户、1 万多条新闻及数据库备份信息。该用户还试图重置 admin 账号、创建持久账号、读取线上数据及寻找系统密钥。群内有人表示“已提交给网安”,随后中转站管理员宣布“停止运营,后续警局出来就退款”,并解散了群聊。目前公开信息显示,尚无权威通报确认具体攻击目标与实际影响。

为什么重要

此前关于“无安全限制的大模型是否会被用于真实攻击”的讨论多停留在理论层面。此次事件提供了一个完整链条:越狱提示词 → 破甲模型中转站 → 真实政府网站攻击 → 服务商关停跑路。它证明了两点:第一,大模型的安全对齐(Alignment)在开放 API 中转场景下极易被绕过;第二,“破甲模型”作为灰色服务已经形成分发渠道,不再只是极客圈的技术实验。对云服务商、API 提供方和监管机构而言,这种依赖用户自律而非平台审核的模式,存在明确的法律与运营风险。

对用户/开发者/创作者的影响

对开发者而言,如果正在使用第三方 API 中转服务,尤其是那些宣称“无限制”或“破甲”的模型接口,需要意识到这类服务可能随时关停,且调用记录可能成为法律风险的一部分。对普通用户而言,这类事件可能加速监管对 API 中转、模型微调服务的审查力度,合规门槛会提高。对创作者和研究者的影响在于:开源的自由度与滥用风险之间的边界会被重新讨论,后续开源模型发布时可能默认收紧安全层,或者在许可证中加入更严格的用途限制。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,该 .gov.cn 网站是否会发布官方通报,以及涉及的 CMS 系统是否存在已知漏洞,将影响后续同类站点的安全评估标准。第二,是否会有更多“破甲模型”中转站因为类似事件被排查或自动关停,这关系到 API 灰色市场的供给变化。第三,开源模型社区是否会针对越狱提示词加强防护,例如在模型训练阶段增加对抗样本,或是在 API 层加入行为检测,都是可以持续观察的技术动向。

来源:@MaxForAI

celebrityanime
celebrityanime
文章: 19177

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注