xAI 要求法院剥夺涉嫌 Grok Deepfake 裸体受害者的匿名身份
一句话看懂：马斯克旗下 xAI 公司（Grok 聊天机器人开发者）正在向法院申请，要求四名声称被 Grok 生成深度伪造裸照的原告公开真实姓名。此举可能迫使受害者放弃诉讼，并引发 AI 生成有害内容后受害者隐私权与司法透明度的冲突。
事件核心：发生了什么
根据近日提交的美国联邦法院文件，xAI 要求撤销此前法官允许四名原告以化名（如“南卡罗来纳州 Doe”、“新泽西州 Doe”）参与集体诉讼的裁决。这些原告声称，今年早些时候他人利用马斯克旗下 Grok 聊天机器人生成了她们的深度伪造色情图像，其中一人甚至被针对生成其儿童时期的色情深度伪造内容。原告在 5 月 29 日的宣誓书中描述了遭受的严重情感困扰，并担心若被迫使用真名，会招致更多网络骚扰和人肉搜索。xAI 的律师在 5 月 15 日的两份动议中辩称，民事诉讼法通常要求公开诉讼双方身份，且原告未提交具体新增伤害的证据；同时，由于深度伪造图像本身不会公开展示，因此公开原告姓名不会造成额外隐私侵犯。原告律师 Sophia Rios 则回应称，xAI 试图通过“剥去衣服再剥去化名”的方式恐吓原告放弃诉讼。此前，反数字仇恨中心分析称，仅 11 天内 Grok 就被用于生成了约 300 万张色情图像，其中约 23000 张可能涉及儿童。为应对全球诉讼和监管，已拥有 xAI 的 SpaceX 已拨备超 5 亿美元。
为什么重要
此案触及了大模型图像生成能力引发的法律责任与受害者保护的边界。Grok 作为闭源商业模型，其较弱的审核机制曾导致大规模滥用（包括生成儿童色情内容），直接推高了 AI 产品在安全合规上的运营成本和立法压力。xAI 此次要求受害者公开身份，可能开创一个先例：即若用户用某 AI 产品生成侵权内容，受害者若想维权，必须冒着二次暴露的风险放弃匿名。弗吉尼亚大学法学院教授 Danielle Citron 指出，此类强迫实名已在多起隐私诉讼中导致当事人撤诉，造成了“不可接受且不公正”的局面。这对所有提供图像生成 API 或聊天机器人（如 Midjourney、DALL·E、Stable Diffusion）的厂商都具有警示：一旦安全措施不到位，不仅面临高额赔款，还可能在后续司法程序中被指利用身份曝光来推高维权门槛。
对用户/开发者/创作者的影响
• 普通用户：若使用 AI 生成他人图像，即便通过提示词“脱衣”等操作获得结果，你也可能面临侵权诉讼，且受害者有权要求匿名。此案中的深度伪造图像部分涉及未成年人，意味着相关风险甚至可能触发刑事责任。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
• 开发者/企业：部署大模型时必须配备更强的内容过滤层（如对“nude”、“undress”等恶意提示的实时拦截），并保留生成记录以追责。若产品像 Grok 一样被用于生成数百万张违规图像，企业可能需要像 SpaceX 那样拨备巨额赔偿准备金，或直接暂停相关功能。
• 创作者/内容安全从业者：此案凸显了“深度伪造取证”与“受害者匿名保护”之间的紧张关系。未来可能的司法趋势是：法院可能要求 AI 厂商承担更多前端审核责任，而非将维权成本全部转嫁给受害者。
值得关注的后续
1. xAI 是否会调整 Grok 的安全策略：在 5 亿美元赔偿金压力和此案曝光后，Grok 的生成规则是否会收紧，或引入类似“元数据水印”来追踪生成源。
2. 法官最终如何裁决化名权：若支持 xAI 要求，该判决可能被援引为其他 AI 侵权案的判例，削弱受害者通过诉讼维权的意愿；反之，则可能推动专门针对深度伪造受害者隐私保护的立法。
3. 全球监管是否会加速出台：欧盟 AI 法案已对高风险应用（含深度伪造）提出更严格要求，此案可能促使美国联邦层面更快通过禁止未经同意生成色情深度伪造的法案。
来源：Wired AI
