一句话看懂：旧金山市检察官向苹果和谷歌发出法律通知，要求其下架13款用于制作深度伪造裸照的AI应用；谷歌已表示删除了相关应用。此举标志着地方监管机构首次直接针对应用商店在AI深度伪造内容传播中的平台责任采取行动。
事件核心：发生了什么
据Matt Burgess为Wired报道，旧金山市检察官已正式向苹果和谷歌两家公司发出法律通知，要求其从各自的应用商店中移除13款AI应用程序。这些应用被指专门用于生成深度伪造（deepfake）的裸体图像，即利用AI图像生成技术将普通照片中的人物身体替换为裸露或性化画面，通常未经原人同意。谷歌回应称，已按照要求删除了这些应用。目前苹果方面尚未公开回应，且应用商店中是否仍有其他类似应用待进一步核实。报道未明确列出13款应用的具体名称，但表示这些应用均利用了开源或闭源的大模型推理能力，通过简化交互界面让非技术用户也能一键生成深度伪造内容。
为什么重要
这一事件的重要性体现在三个层面：第一，它首次将AI深度伪造内容的监管焦点从生成者直接延伸至应用商店平台，要求苹果和谷歌承担“守门人”责任，而非仅仅追究开发者的非法使用行为。如果监管方向从“打内容”转向“打工具”，将对AI应用的分发生态产生结构性影响。第二，这13款应用均利用了当前主流图像生成API或本地推理能力，显示出AI模型本身具有的双重用途——既可以用于创意内容生产，也可以被恶意配置为侵权工具。监管者认为，应用商店的审核机制未能有效区分合法图像编辑与自动生成深度伪造裸照的边界。第三，旧金山作为科技核心城市，其监管行动可能被其他地区引用，推动更严格的AI应用备案和审查制度，尤其是涉及“人物图像生成”功能的应用可能面临更高的合规门槛。
对用户/开发者/创作者的影响
对普通用户：需要意识到应用商店中的AI图像生成工具并非都是安全的。此类事件提醒用户，使用换脸或图像修改类应用时需确认开发者背景和应用审核状态，避免自己的照片被第三方不当采集或用于非法训练。对AI应用开发者：如果应用提供“基于他人照片生成裸体”功能，无论是否标注为“仅用于娱乐”，都可能面临法律风险。开发者需在产品设计时加入明确的内容过滤机制、用户肖像权同意验证，以及实时推理审查逻辑，否则可能被应用商店直接封禁甚至被提起诉讼。此外，使用开源模型做本地推理的App，同样逃不脱平台责任。对创作者和艺术家：合法使用AI图像生成的创作者可能面临更严格的证明义务，例如需要提供原始素材、使用许可和明确的创作意图，以避免被误归为深度伪造工具。同时，商业平台在采购图像生成API或模型时，可能会要求供应商提供更可信的防滥用技术方案。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
- 苹果的正式回应：目前苹果尚未公开表态，其是否配合删除或提出法律异议将直接影响应用商店对AI工具的审核标准是否统一。若苹果坚持保留某些应用，可能会引发旷日持久的法律争议。
- 应用商店审核策略的改变：谷歌已先行删除，但具体执行标准（是仅删除被指名的13款，还是进一步扩大扫描范围并下架所有具有类似推理能力的App）尚未公开。未来App提交“人脸图像处理”类应用时，可能必须提交明确的滥用防欺凌声明和实时推理日志。
- 联邦立法步伐：地方监管行动可能加速美国联邦层面的深度伪造立法讨论。如果其他城市或州效仿，AI开发者将面临碎片化的合规要求，而统一的法律框架——例如要求AI应用对输出的可版权性、可追溯性和合法性进行声明——可能被提上日程。
来源：Techmeme
