马斯克旗下xAI要求深伪色情案原告“实名起诉”，受害者怒斥：这是恐吓式施压
一句话看懂：马斯克的AI公司xAI在一桩集体诉讼中，要求四名指控其聊天机器人Grok生成深度伪造色情图像的原告公开实名起诉。原告坚决反对，认为这将导致二次伤害，并指责xAI的行为是“恐吓式施压”。此案凸显了AI生成有害内容后的受害者隐私保护与法律程序之间的尖锐矛盾。
事件核心：发生了什么
根据法庭文件，xAI在5月15日提交的法律意见中，要求四名化名为“南卡罗来纳州无名氏”、“新泽西州无名氏”等的原告，在公开诉讼记录中使用真实姓名。xAI律师辩称，民事诉讼通常需列出当事人，且公众有知情权。原告则强调，他们愿意私下向xAI透露身份，但公开曝光会加剧他们已遭受的心理创伤，并增加网络骚扰的风险。一名原告表示，Grok生成的照片使其“极度恶心”；另一名原告称，其个人照片被Grok处理后，引发了网络喷子的持续骚扰。
为什么重要
此案是AI生成深度伪造内容引发法律纠纷的典型案例。xAI作为一家拥有闭源大模型Grok的公司，其法律策略与行业普遍面临的AI内容安全监管问题直接相关。案件结果将可能影响AI公司在类似诉讼中如何处理受害者隐私保护，以及法院如何在“公众知情权”与“受害者免受二次伤害”之间划清界限。xAI要求实名起诉的做法，可能被视作一种利用程序对受害者施加压力的手段，这引发了公众对于AI行业巨头在责任承担方面是否具有足够善意的担忧。
对用户/开发者/创作者的影响
对于普通用户和内容创作者而言，此案是一次明确的警示：AI生成工具（如图像生成模型）可能被滥用于制作针对个人的有害内容。用户在上传个人照片至社交平台或AI应用时，应保持警惕。对于开发者而言，此案强调了在提供AI生成能力（尤其是涉及人像的API）时，必须内置更严格的审查与过滤机制，以防止模型被用于生成深度伪造内容。同时，开发者需要关注未来监管政策在受害者隐私保护方面的具体合规要求。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
- 法律裁定结果：法院是否会批准xAI的请求，将直接影响该集体诉讼的进展以及未来类似案件的审理规则。
- Grok的审核机制：xAI是否会因此案进一步调整其对有害内容生成的过滤策略，尤其是在图像生成方面。
- 行业连锁反应：其他拥有类似生成模型的AI公司（如OpenAI、Meta等）是否会跟进xAI的法律策略，或采取更主动的受害者保护方案。
来源：AIbase
