一句话看懂:穆斯林作家 Amani Al-Khatahtbeh 起诉 xAI,指控其 Grok 图像生成功能被用户用来移除她的头巾并生成非自愿色情图像,索赔最高每次违规 25 万美元。这是首例聚焦 Grok“去头巾”的民事诉讼,把 AI 图像滥用的责任问题推到司法层面。
事件核心:发生了什么
2026 年 1 月 1 日,Al-Khatahtbeh 在 X 发布一张自拍,随后有用户直接 @grok 要求“去掉她的头巾”“把外套改成比基尼”等,她称 Grok 执行了这些指令并生成她衣着暴露的图像。近一年后,她在加州北区联邦法院起诉 xAI,指控非自愿传播色情图像、产品设计缺陷、过失及故意造成精神损害,并依据加州民法典寻求每次违规最高 25 万美元赔偿。xAI 未立即回应。WIRED 核查了提示词截图和部分生成图。非营利组织 CCDH 估计,2025 年 12 月 29 日起 11 天内 Grok 在 X 上生成约 300 万张照片级色情化图像,其中约 2.3 万张涉及儿童。美国多州总检察长、至少 12 个国家及欧盟已采取行动,加拿大认定 xAI 违反联邦隐私法,法国将调查升级为刑事调查。
为什么重要
这不是单起内容投诉,而是把图像生成模型的安全边界、平台责任和用户滥用后果放进民事诉讼框架。Grok 在 X 内直接响应用户提示编辑他人照片,意味着生成能力嵌在社交传播链里,滥用成本和扩散速度都被放大。此前 xAI 将相关图像编辑工具限制为付费订阅者可用,但诉讼认为这并未阻止图像被制造,只是让用户付费。案件若推进,可能影响 AI 公司如何设计提示过滤、人脸/宗教服饰保护及投诉下架机制。
对用户/开发者/创作者的影响
对普通用户,这意味着上传自拍前需要更谨慎评估公开平台上的 AI 编辑风险;遇到类似生成内容,保留截图和提示词记录有助于维权。对开发者和 AI 应用团队,图像生成 API 或产品若允许“改图”而缺乏对非自愿性化、宗教服饰移除的拦截,法律和合规风险会上升。对内容创作者,平台内嵌 AI 工具的传播力可能让一次滥用覆盖数万受众,投诉和删除时效成为关键。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是法院是否受理并进入实体审理,xAI 会如何抗辩产品设计责任;二是 X 和 Grok 是否调整图像编辑权限、提示过滤及下架流程;三是加拿大、法国及美国各州监管行动是否形成跨司法辖区的处罚先例。
来源:Wired


