一句话看懂：旧金山市检察官向 Meta 发出停止函，要求其制止平台上出现 AI 生成的儿童性虐待广告。这些广告把真实未成年人照片转成性化视频，近期在 Facebook、Instagram、Threads 上累计投放超 350 条，触及欧盟等地区逾 2.9 万个账号。此事值得关注，因为它把 AI 图像生成滥用从内容审核问题升级为平台法律责任问题。
事件核心：发生了什么
据 Wired 报道，Meta 近几个月在其平台投放了超过 350 条广告，内容是将未成年人的静态照片——其中部分被确认为真实人物，包括一名欧洲王室成员——转换成可表现性行为的短视频。点击这些广告会引导用户下载 AI 图像和视频生成应用，部分应用可用于“数字脱衣”或生成非自愿亲密影像。这些广告由 Tech Transparency Project（TTP）发现，部分重复上传，在欧盟地区触达超 2.9 万个账号，同时面向美国、澳大利亚和印度投放。值得注意的是，在 Wired 8 月初首次报道其中 53 条广告后，仍有超过 250 条继续上线。
旧金山市检察官 David Chiu 已向 Meta 律师发出四页停止函，要求其停止此类广告，并解释为何反复绕过审核系统、如何向美国失踪与受虐儿童中心（NCMEC）上报，以及对广告主和累犯的处理方式。Meta 回应称“没有迹象”表明这些广告在旧金山展示，因此不在市检察官管辖范围；TTP 还指出，部分虐待广告举报后超过一周未获 Meta 回应。
为什么重要
这不是孤立的内容审核漏洞。停止函指出，这些发现暗示 Meta 在广告中检测潜在儿童性虐待方面存在“更广泛的系统性问题”，并带来“重大法律问题”。对 AI 行业而言，关键点在于：图像与视频生成模型能力下放后，滥用门槛大幅降低，而平台广告系统是流量和变现入口，如果审核与广告投放系统脱节，生成式 AI 的滥用就会直接变成平台收入的一部分。这也说明，AI 生成内容的治理不能只靠模型层限制或事后下架，广告审核、支付链条和广告主追责都需同步覆盖。
对用户/开发者/创作者的影响
对普通用户，这意味着在社交平台上刷到的 AI 广告可能包含违法内容，举报后处理时效仍不稳定。对开发者和 AI 应用团队，若产品涉及图像生成、视频生成或“换脸/去衣”类功能，广告投放和分发渠道的合规审查会趋严，闭源平台可能进一步收紧 API 和广告账户。对内容创作者和广告主，使用生成式 AI 制作素材时需保留授权记录，避免真人图像被滥用导致账户和支付渠道受限，目前公开信息显示，Meta 对这批广告的总花费表述为“低于 5000 美元”。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 Meta 是否公开说明广告审核与儿童安全系统的具体整改措施，以及是否与旧金山市检察官办公室展开“迅速讨论”。二是 NCMEC 上报和累犯广告主处理机制是否透明化，这会影响平台在监管中的位置。三是其他平台和广告网络是否跟进自查，尤其是那些接入第三方 AI 图像生成应用的推广链路，这可能决定生成式 AI 广告生态的合规成本边界。
来源：Wired AI
