一句话看懂：报告显示，ISIS 等组织年轻支持者正大量使用生成式 AI 制作海绵宝宝版处刑动画、动漫化简报等“Slop Jihad”内容，借助 TikTok 算法向青少年传播极端思想。这是恐怖主义宣传首次大规模融入互联网“垃圾内容”生态。
事件核心：发生了什么
战略对话研究所（ISD）发布新报告，将这一现象命名为“Slop Jihad”。报告发现，极端组织支持者不再只依赖传统高清处刑视频，而是使用生成式 AI 工具将官方宣传素材低成本重制为卡通、迷因和“粉丝剪辑”。例如，十年前 ISIS 发布的水牢处刑视频，如今被改造成《海绵宝宝》画风动画，由海绵宝宝操纵吊笼、章鱼哥拍摄，在 TikTok 上传播。
ISD 研究主席 Moustafa Ayad 在 TikTok 上追踪到 71 个账号发布的 150 条相关视频，累计观看量超过 540 万次。其中部分账号还利用 AI 图像生成技术，将 ISIS 每周官方简报《al-Naba》直接转成动漫风格内容。联合国背景的反恐组织 Tech Against Terrorism 也发布了关于同一趋势的报告。
素材还提到，Meta 旗下平台和 TikTok 均涉及该内容传播。TikTok 反驳报告结论，称其“方法论模糊”，并表示已删除报告提及的所有违规内容。WIRED 与 TikTok 沟通后，ISD 标记的数十条视频已被移除。
为什么重要
这一趋势的本质，是生成式 AI 将恐怖主义宣传的“生产成本”和“审美门槛”同时拉低。过去，极端组织需要专门团队制作高投入视频；如今，支持者仅用公开 AI 工具（如图像生成模型和 AI 视频生成应用）就能将血腥处刑转化为娱乐化卡通。ISD 指出，这种形式“减弱了传统恐怖主义品牌的视觉识别度”，使极端内容更易被算法推荐给青少年——用户可能先因“海绵宝宝动画”产生互动，随后被推荐更直白的宣传内容。
对 AI 行业而言，这暴露了开源与闭源图像/视频生成模型在内容安全审核上的共同盲区：模型训练时已内置暴力内容过滤，但“卡通化暴力场景”的语义改写能绕过多数安全对齐。2024 年，ISIS 附属新闻节目已开始使用 AI 虚拟主播播报，此次 Slop Jihad 则说明，生成式 AI 在恐怖内容生产中的应用已从“官方工具”蔓延至“民间支持者生态”，且呈现出与平台“AI 垃圾内容”泛滥相互叠加的趋势。
对用户/开发者/创作者的影响
对普通用户：在 TikTok、Instagram 等平台刷到“卡通化极端内容”的概率正在上升。这类内容不以传统暴力画面出现，而是混入娱乐化信息流中，识别难度更高，家长与教育者需要对此保持警觉。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对 AI 开发者与平台审核方：目前公开信息显示，现有多数内容审核系统依赖文本与画面的“显性暴力”特征匹配，对 AI 生成的搞笑画风、迷因化改写识别率有限。开发者亟需引入“语义改写检测”和“跨模态溯源”机制，而非仅靠关键词或图片哈希比对。视频生成 API 的平台方也应考虑对批量生成、模板化动画输出增加水印或来源标记。
对内容创作者：该事件提醒所有创作者，生成式 AI 使“模仿与二次创作”的伦理边界更模糊——即便是恶搞性质的 AI 视频，也可能被恶意挪用为传播载体。创作者应谨慎处理涉及敏感组织符号的素材，避免无意间成为算法推荐的“中间跳板”。
值得关注的后续
第一，Slop Jihad 的传播是否会在 TikTok 以外平台蔓延。TikTok 采用强算法推荐与高密度 AI 垃圾内容生态，目前是主要集散地；X（原 Twitter）和 Telegram 的监管策略不同，值得跟踪是否有跨平台扩散迹象。
第二，AI 图像与视频生成工具（无论是闭源 API 还是开源模型）是否会加强输出端的风格一致性检测，例如识别“卡通化+极端符号”的组合模式。目前各大模型厂商尚未公布针对性安全更新。
第三，TikTok 的回应提到“报告方法论模糊”，而 WIRED 提供链接后内容被删除，说明平台确有动作。后续观察点在于：平台下架依赖“人工举报”还是“主动识别”，以及类似 AI 内容是否会以更大规模重新上传。
来源：Wired
