一句话看懂：旧金山市检察官向苹果和谷歌发出法律通知，要求其下架13款AI“脱衣”应用，并指责这两家科技巨头通过应用内购分成“助长”非自愿深度伪造裸照的传播。这一行动将平台是否应为其商店中AI滥用的收益负责的问题推至合规前台。
事件核心：发生了什么
旧金山市检察官David Chiu于上周四向苹果和谷歌发出停止和终止函，要求其从App Store和Google Play中移除8款iOS应用和5款Android应用。这些应用以“换脸”工具为名，允许用户上传照片后通过AI图像生成技术生成非自愿的裸体或色情内容。法律函指出，应用内购的分成机制使两家公司“赚取了数百万美元”费用，并违反了加州禁止为深度伪造色情内容提供支持服务的法律。此前，研究者与记者已多次在两大商店中发现此类应用，部分甚至获得“适合儿童”的年龄评级。Google回应称已因政策违规删除了“数百款”类似应用，并限制了“nudify”等搜索词；苹果未在发稿前置评。
为什么重要
这是地方政府首次直接以法律手段要求苹果和谷歌对其商店中AI生成非自愿色情内容承担连带责任。过去，平台通常以“开发者政策禁止色情”为由在媒体报道后逐一删除应用，但检察官认为这种“先上线再删除”的被动模式无法阻止伤害——问题在于平台是否在审查和发布环节就应当拦截这类AI应用。此举可能推动加州乃至全美其他州效仿，迫使苹果和谷歌改进其AI应用程序审核流程，从“事后下架”转向“事前准入”，进而影响所有涉及图像生成或图像编辑功能的应用的上线标准。
对用户/开发者/创作者的影响
对普通用户：短期内App Store和Google Play中“换脸”类应用的审核门槛将提高，部分合法图像编辑或AI特效应用可能被误伤下架；用户应警惕需要上传照片并声称能“去衣”的免费或付费应用，这些服务不仅违法，还可能被用于网络欺凌和勒索。
对开发者：若你的应用涉及图像生成、换脸或人体编辑功能，应立即审查是否包含任何可能被滥用为“nudify”的场景，并在用户协议和内容过滤中明确禁止且主动拦截非自愿内容；否则将面临被地方执法机构点名的法律风险。
对AI行业：此事件将影响大模型图像生成API的调用合规——提供换脸或人体重建开源模型的团队需关注平台是否要求其停止分发；提供图像生成服务的闭源模型公司可能被要求增加更严格的内容审核与水印机制。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
第一，苹果和谷歌是否会主动扩大对“换脸”类应用的搜索屏蔽与商店预审核，以及是否会在新版开发者协议中明确禁止“AI生成非自愿色情内容”并附带罚款。第二，旧金山的法律行动是否会被其他州或联邦立法者引用，从而推动更严格的AI内容监管法案出台。第三，被下架的13款应用是否会转移到第三方应用商店或独立网页分发，从而催生新的监管盲区——这将检验“平台责任”模式的有效边界。
来源：Wired AI
