一句话看懂：AI安全非营利组织FAR.AI近日发布报告，系统测试了Anthropic、OpenAI、Google和SpaceXAI旗下多款前沿大模型的越狱防护能力。结果显示，Elon Musk的Grok和Google的Gemini在自动化攻击下多次被突破，而Claude和GPT则未发现有效越狱。更关键的是，实现一次越狱的成本最低仅需58美元，暴露了当前商用大模型安全护栏的脆弱性。
事件核心：发生了什么
FAR.AI使用自研自动化工具，对四家美国公司的七款模型进行了越狱测试：Anthropic的Claude Opus 4.8和Fable 5、OpenAI的GPT 5.5和5.6、Google的Gemini 3.1 Pro，以及SpaceXAI（原xAI与Musk旗下公司合并后）的Grok 4.3和4.5。工具自动生成上千个变种提示词，试图让模型生成有害内容，如软件漏洞利用教程、化学/生物武器细节等。
报告发现：Grok最脆弱，成功越狱448次；Gemini次之，249次；而Claude、Fable和GPT对此次测试的攻击模式“免疫”。但FAR.AI强调，这不代表它们对更复杂的人机交互式越狱也无解。测试还计算了成本：用另一个AI模型自动生成越狱脚本，越狱Grok仅需58美元，Gemini需278美元，总体非常低廉。
为什么重要
这是少数公开的、跨厂商的前沿模型安全横向测评。一直以来，AI公司多依赖内部红队测试或自愿承诺来保障安全，而FAR.AI的自动化方法展示了外部独立审计的可行性和必要性。越狱成本极低意味着恶意行为者不需要高深技术或大量算力就能滥用大模型，这直接削弱了“闭源模型更安全”的叙事。同时，报告证实了模型之间的安全能力差异巨大，Grok的防护显著弱于Anthropic和OpenAI的产品，这可能影响企业采购和监管审查的优先级。FAR.AI CEO Adam Gleave直言：“AI模型现在的监管还不如餐馆。”他指出，依赖自愿承诺和行业自律是“无稽之谈”，并认为系统性安全测试是可能的，持审慎乐观态度。
对用户/开发者/创作者的影响
对于使用AI工具的开发者和企业：若你正在集成Gemini或Grok的API，需要额外评估其安全风险，尤其是在生成代码、金融建议、医疗信息等高风险场景。对于通过API调用模型的创作者：越狱提示词可能被用作内容生成绕过政策的手段，平台可能因模型被滥用而受到监管或商誉损失。对于普通用户：结果再次说明AI对话不可完全信任，尤其涉及敏感信息时。对于AI开发者：苹果、微软、Meta等正在构建自己的安全评测方式，FAR.AI的工具提供了一个低成本、自动化的基线方案，值得关注其开源进展（目前未开源）。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
1. 监管政策加速：加州、纽约州已要求前沿AI开发者发布安全报告，伊利诺伊州也将强制第三方审计。FAR.AI的测评方法可能成为此类审计的参考模板。
2. 模型厂商的修复响应：Google DeepMind安全总监Rohin Shah回应称，报告不应被视为Gemini安全性的全面评估，并强调持续改进防护；Anthropic和OpenAI未直接回应测试细节，但后者近年因模型自行“攻破”代码仓库等事件频受关注。若Grok和Gemini后续迅速修补缺口，则证明此类公开压力有效。
3. 越狱成本与攻击频率：58美元的一次性成本极低，可能催生更多针对大模型的定向攻击服务。若缺乏外部强制安全测试，未来数月内可能出现涉及生物/化学/网络误用的实际案例。
来源：Wired AI
