一句话看懂：剑桥大学一项基于对27名前成员访谈的研究发现，尼日利亚极端组织博科圣地及其分支ISWAP已系统性地使用ChatGPT、Claude、Gemini、Grok、Meta AI、DeepSeek等主流AI聊天机器人，用于策划袭击、开发更强大的爆炸装置、维护武器并提升行动安全性。研究指出，ISIS自2023年起便为博科圣地指挥官提供提示工程和越狱训练，以绕过AI安全过滤，而当前安全措施未能有效阻止此类滥用。
事件核心：发生了什么
剑桥大学AI科学与政策项目研究员Antonia Jülich通过57次访谈，与27名前博科圣地及ISWAP成员对话，揭示了该组织对AI聊天机器人的深度利用。研究显示，博科圣地两个派别均设立了专门AI单元，由ISIS联络人训练指挥官如何绕过安全过滤。在一则极端案例中，ISWAP利用AI模仿电影中的摩托车跳跃技术以跨越壕沟，导致18名训练人员死亡、仅8人成功。该组织还利用AI用于武器维护和操作安全，声称对AI强烈追捧，并曾考虑开发大规模杀伤性武器。研究指出，尽管当前使用集中在常规武器，但该组织曾寻求AI辅助化学与生物武器开发的迹象令人警惕。
为什么重要
这项研究验证了AI安全行业长期担忧：当前主流闭源聊天模型（如ChatGPT、Claude）在对抗性滥用面前存在脆弱的防御线。OpenAI和Anthropic等公司曾警告，模型可能使危险知识更易获取。Anthropic甚至承认越狱攻击“几乎无法彻底消除”。研究进一步指出，当前安全过滤未能可靠阻止恶意使用，这并非单一企业缺陷，而是大语言模型架构的本质问题。更令人担忧的是，聊天机器人只是降低了现有知识门槛；真正风险在于未来更专业化的生命科学AI系统可能被用于生成新型威胁。对AI实验室和监管机构而言，这意味自愿合规正在失效，需更严格的访问控制与滥用监控。
对用户/开发者/创作者的影响
普通用户无需过度恐慌，但需理解：AI的易用性与广泛接入同时也被恶意行为者利用。开发者和AI实验室需重新评估模型释放前的红队测试标准，尤其关注提示工程与越狱技术的对抗升级。对AI安全研究员而言，这推动了更严格的事实核查与行为护栏需求。企业采购AI工具时，应审视供应商在滥用检测、权限控制和日志审计方面的能力，尤其涉及敏感知识或武器相关内容的模型调用。创作者与内容平台需注意不当请求的过滤机制升级，同时避免自身内容被用于训练或生成恶意方案。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
第一，AI实验室是否会公开在此次事件披露后采取具体模型拦截措施，例如针对特定武器开发关键词或军事战术查询的强化过滤。第二，剑桥研究团队是否将发布更详细的技术报告，揭示哪些提示工程技巧被成功用于越狱。第三，各国政府是否会借此推动针对AI模型的“对抗性压力测试”立法，要求模型在训练阶段就纳入恶意行为检测网络。如果ISIS和博科圣地已形成越狱培训体系，其他恐怖组织可能类似复制，这对全球AI治理联盟将构成急迫挑战。
