一名联邦调查局探员解释了识别未经同意发布AI色情内容者是多么容易
一句话看懂：FBI 依据《Take It Down Act》逮捕了两名利用 AI 生成并出售未经同意的色情深度伪造内容的嫌疑人。调查过程极其简单：一个嫌疑人直接用自己照片做头像，另一个嫌疑人甚至把自己的 PayPal 账户和 iCloud 登录 IP 暴露在网站上。这说明技术手段让执法部门追踪这类犯罪几乎零门槛，但同时也暴露出 AI 生成内容的监管仍存在执行盲区。
事件核心：发生了什么
根据 Ars Technica 报道，FBI 探员 Christopher Powell 在 affidavit 中披露，他们通过浏览色情网站，寻找带有 #AI #Deepfakes、”AI_tits”或”Ass_AI”等标签的视频，便成功锁定了两名嫌疑人。
第一位嫌疑人、20 岁的 Arturo Hernandez 被指控发布了 113 个 AI 生成的色情相册，内容涉及约 50 名女性受害者，包括政客、演员、音乐人，以及他高中同学和 Instagram 好友。探员通过 Geotag（地理标签）定位到 Hernandez 的一个 PayPal 账户与上传内容的第二个账户关联，且在 Apple 记录中发现了相同的 iCloud 登录 IP 地址。Hernandez 还曾在自己的 Instagram 账号中保存了一位受害者的原图，并用于制作 AI 色情内容，该内容被观看了超过 36,000 次。他试图用昵称“Ryan”掩盖身份，但该昵称同样出现在其 Snapchat 账户上。
第二位嫌疑人、51 岁的 Cornelius “Neil” Shannon 则更为粗心。探员发现，其账号头像直接使用了本人穿着纽约大都会棒球队衫的照片。通过 DMV（车管局）记录和监控照片比对，警方确认了其身份。
此外，美国联邦贸易委员会（FTC）上周向 12 家提供“脱衣”AI 工具的公司发送了警告信，要求其在 48 小时内建立受害者删除申请流程，否则将面临每项违规最高 53,088 美元的民事罚款。
为什么重要
第一，这是《Take It Down Act》生效以来最早的逮捕行动，表明美国执法机构已明确将非自愿 AI 色情内容定性为刑事犯罪。但事件也揭示了一个严重问题：两个月前，首位依据该法案被逮捕的俄亥俄男子，即使在保释期间仍继续制作深度伪造色情内容。这说明法律威慑力有限，而 AI 生成工具依然廉价且易获取。
第二，从技术角度看，这两起案件的侦破几乎不需要高级调查手段。嫌疑人主动暴露了真实身份信息、网络痕迹与社交媒体账号，这意味着大规模监管不是难点，难点在于受害者发现内容和平台响应速度。如果平台不主动标注或下架，受害者往往很难知道自己的形象已被生成和传播。
第三，FTC 的警告信直接将“脱衣”类 AI 工具置于法律风险中。这些工具通常基于开源图像生成模型（如 Stable Diffusion）微调而成，开发者如果不对输入内容进行限制，可能面临高昂的民事责任。这将对 AI 应用开发者的合规流程产生直接影响。
对用户/开发者/创作者的影响
对普通用户：你的社交媒体照片、公开的 Instagram 账号、甚至你朋友的同学列表，都有可能被用于训练或生成未经同意的 AI 色情内容。建议定期检查自己的公开照片是否被可疑账号保存，并避免在公开平台上传高清原图。同时，如果你怀疑自己是受害者，可以依据 TIDA 向平台申请删除。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对开发者：如果你正在开发或运营基于图像生成 API 的 AI 应用（包括但不限于“脱衣”类、深度伪造换脸类工具），FTC 的警告信是一个明确信号：法律要求你在平台内建立 48 小时内的受害者删除通道。否则，每项违规可能面临超过 5 万美元的罚款。此外，建议对输入内容进行严格审核，防止用户上传非自愿图像。即便你用开源模型自行部署，也不能免责。
对内容创作者和模型训练方：如果你的训练数据集中包含不当内容（例如从公开网络爬取的、未经同意的女性照片），可能面临法律追溯。FTC 和 FBI 正在扩大对“nudify”类工具的打击，未来可能会波及到更广泛的基础模型训练。
值得关注的后续
- 监管是否会延伸至闭源 API 服务：目前 FTC 警告信的焦点是独立的“脱衣”工具，但类似的 AI 生成功能可能通过大型闭源 API（如 ChatGPT、Midjourney 等）的底层能力实现。后续是否会有针对这些 API 的合规要求，值得关注。
- 平台责任边界：X（原 Twitter）已被三名女孩起诉，称其 Grok 聊天机器人将真实照片转化为儿童性虐待材料。FTC 是否向 X 发送了警告信尚未明确，但这一案例将界定平台在 AI 生成内容上的责任范围。
- 开源模型的合规风险：许多“脱衣”工具基于开源的 Stable Diffusion 生态，开源社区是否会被迫增加内容拦截机制？这可能会影响整个开源图像生成模型的使用方式。
