一句话看懂：马斯克旗下 xAI 因聊天机器人 Grok 被指用于生成未成年人非自愿性化图像，在美国多州面临集体诉讼，核心争议指向产品审核尺度与平台责任边界。
事件核心：发生了什么
2026 年 11 月 12 日，AIbase 援引报道称，xAI 在美国威斯康星、田纳西、怀俄明、加利福尼亚等多州遭遇集体诉讼。一名化名“Jane Doe 5”的原告表示，她 14 岁时一张中学毕业合影被同学成年兄长用 Grok 改造成裸露身体的儿童性虐待材料（CSAM），并在网络传播。诉状还提到，Grok 的训练数据中可能包含部分受害者幼年被侵害的图像。原告依据已生效数年的 Masha 法寻求赔偿与救济；美国《通信规范法》第 230 条是否适用于生成式 AI 服务，也成为诉讼焦点。目前公开信息显示，xAI 一方面向美国国家失踪与受虐儿童中心（NCMEC）上报违规内容并起诉个别滥用者，另一方面在明尼苏达州就禁止 AI 生成虚假裸照的地方法案提起诉讼，主张其违反美国宪法第一修正案。
为什么重要
这组诉讼把生成式 AI 的责任分配问题推到台前：当图像生成模型被用于制造违法内容，责任应落在发出指令的用户，还是提供模型与产品的公司？Grok 自发布起被塑造成限制更少、更“真实”的产品，并推出“Spicy”“Unhinged”等模式，这种定位在吸引用户的同时，也放大了滥用风险。今年 X 平台一度出现大规模用 Grok 生成性暗示图像甚至“去衣”图像的情况，含大量涉及未成年人的虚假色情内容。随后 X 将 Grok 图像生成功能改为付费专属，并称已关闭对真人生成非自愿性化图像的能力，但批评者认为这更像把争议工具变成付费卖点。若法院对第 230 条适用范围作出新解释，可能影响所有提供图像生成、大模型推理服务的公司。
对用户/开发者/创作者的影响
对普通用户而言，上传或分享的合影、度假照一旦被他人用于图像生成，追责和删除难度极高，这类数字伤害难以彻底抹除。对开发者和企业采购方，图像生成产品的审核策略、年龄识别、真人肖像限制、违规内容上报流程，正在从“可选项”变成合规必答题。对创作者，平台对 NSFW 内容的宽松定位可能带来短期流量，也会让账号和作品暴露在更高的法律与封禁风险下。目前公开信息显示，相关案件仍处诉讼阶段，产品功能是否进一步收紧、API 是否受波及尚待观察。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是法院如何认定第 230 条对生成式 AI 服务的适用性；二是 xAI 对“Spicy”“Unhinged”等模式及付费图像生成功能的调整节奏；三是明尼苏达州等地方立法诉讼的结果，是否会影响其他州对 AI 图像生成的上线要求。
来源：AIbase
