一句话看懂：英国互联网观察基金会（IWF）披露，2026 年上半年评估了 6,310 张符合儿童性虐待材料（CSAM）法律定义的 AI 生成图像，已超过 2025 年全年的 4,500 余张，增幅约 40%。生成式模型被滥用于违法内容的速度，正在超过现有审核与追责体系。
事件核心：发生了什么
据《卫报》记者 Dan Milmo 报道，IWF 在 2026 年上半年评估了 6,310 张达到 CSAM 法律标准的 AI 生成图像。相比之下，2025 年全年这一数字为 4,500 余张。也就是说，仅用半年时间，IWF 处理的相关图像数量就比上一年全年高出约 40%。IWF 是英国主要的网络儿童安全监测与举报机构，其评估结果通常被监管部门和平台视为重要参考。目前公开信息显示，这些图像来自公开网络与举报线索，具体涉及的模型、平台与生成工具尚未在素材中披露。
为什么重要
这组数据说明，扩散模型和图像生成能力的普及，正在被直接用于制造违法内容，而不是停留在理论风险层面。过去一年，主流闭源模型普遍通过 API 侧的内容策略、提示词过滤和输出审核来限制此类生成，但开源权重模型、本地推理工具以及第三方托管服务，让审核边界变得更模糊。对监管而言，问题不再只是“模型能不能生成”，而是“生成之后谁负责、如何追溯、平台是否及时下架并上报”。当半年数据就超过上一年全年，意味着检测与举报压力正在快速上升，也可能推动英国及欧盟在 AI 内容标识、模型滥用报告义务上加快立法节奏。
对用户/开发者/创作者的影响
对普通用户，平台端的内容审核会更严，涉及未成年人形象的生成请求被拒绝或封号的概率上升。对开发者和 AI 应用团队，这意味着接入图像生成 API 时，需要更明确地设计输入过滤、输出审核和日志留存机制，尤其是面向开放注册的产品；单纯依赖模型厂商的默认安全策略可能不够。对使用开源权重模型做本地推理的团队，合规责任更多落在自己身上。内容创作者则要注意，使用 AI 生成涉及人物形象的素材时，法律风险不只来自版权，也可能触及儿童保护相关条款。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 IWF 是否会在后续报告中给出更细的分类数据，例如涉及的模型来源、托管平台和传播渠道；二是英国及欧盟监管是否据此收紧对开源模型分发和托管服务的义务；三是主流模型厂商和云平台是否跟进加强 API 侧的滥用检测与上报机制。这些变化会直接影响图像生成工具的可及性和合规成本。
来源：Techmeme
