一句话看懂：英国国家犯罪署（NCA）与互联网观察基金会（IWF）联合发布最新指南，警告家长不要在社交媒体上公开分享儿童照片。原因是AI生成的儿童性虐待材料（CSAM）数量正快速增长——仅2025年上半年，IWF已识别超过8000张AI生成的逼真CSAM图像，较上年增长14%。
事件核心：发生了什么
英国NCA与IWF在7月24日联合发布了一份针对家长的在线安全指南，核心建议包括：检查社交媒体隐私设置、使用“密友”分享模式、评估已发布内容是否包含可识别儿童身份的信息（如面部、校服）、以及重新审视与亲友及学校签订的图像授权协议。这一行动的直接背景是AI图像生成工具滥用风险的显著上升。IWF数据显示，2024年全年仅发现13段AI生成的CSAM视频，而到2025年，这一数字已飙升至3440段，增幅超过260倍。英国政府也在同期采取措施，包括禁止“去衣化”类AI应用，并修订法律要求AI公司确保其系统无法用于制作CSAM。
为什么重要
这一警告直接指向AI图像生成技术扩散带来的安全治理难题。过去，CSAM的制作依赖于真实图像或手工编辑，规模有限且取证相对容易。但如今，开源图像生成模型（如Stable Diffusion系列）、闭源API服务以及可本地运行的大模型，显著降低了生成逼真儿童图像的技术门槛和成本。IWF指出，这些AI工具可被用来“移除”照片中人物的衣物，生成的图像已极难与真实照片区分。这不仅加重了平台内容审核的负担，也让家长日常分享行为的风险被重新评估——过去主要受限于身份盗窃风险，现在还要面对深度伪造（Deepfake）材料的潜在危害。对AI开发者而言，这意味着未来合规压力将更大：不仅是训练数据中不能包含CSAM，模型本身还必须具备反滥用能力。
对用户/开发者/创作者的影响
对家长和普通用户：指南建议的“缩小公开范围”是当前最直接的行动方向。将社交媒体账号设为私密、使用“密友列表”分享、避免发布包含儿童正脸、校服或可定位信息的照片，可有效降低素材被恶意采集和用于AI生成的可能性。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对AI开发者和平台运营方：英国政府的立法动向表明，开发或托管文本到图像、图像编辑类模型的团队，必须将内容安全过滤机制纳入开发流程，否则可能面临法律风险。具体包括：在训练前筛除数据集中的可疑图像、在API层加入提示词拦截（如禁止“nudification”类输入）、以及上线后持续监测输出文件的合规性。
对内容创作者（如育儿博主）：若涉及使用儿童图像，需重新评估公开分享的价值与风险，并考虑使用脱敏处理、面部模糊或仅向付费订阅者开放等方式，以降低AI滥用风险。
值得关注的后续
1. 大模型企业的合规方案：头部AI图像生成服务商（如OpenAI的DALL-E、Midjourney、以及开源社区的Stable Diffusion）是否会更新各自的输入输出过滤策略，以响应英国监管趋严的信号。
2. 检测技术的进展：AI生成CSAM的识别工具和取证方法是否会加速发展，例如推出针对特定生成模型的水印方案或更精准的深度伪造检测API。
3. 爱尔兰/欧盟监管联动：由于许多大型科技公司的欧洲总部设在爱尔兰，英国此次警告和立法动向是否会推动欧盟层面的类似监管提案，值得行业关注。
来源：BBC News
