起诉马斯克旗下xAI！英国议员痛斥Grok AI刻意放任色情深度伪造
一句话看懂：英国工党议员阿萨托（Jess Asato）已正式向英国高等法院起诉马斯克旗下的xAI公司，指控其图像生成产品Grok AI在设计中故意放任用户生成和传播色情深度伪造内容，并以此为由要求道歉和赔偿。这是全球首批针对AI产品的基础设计而非事后滥用提起的诉讼，直接指向了生成式AI公司在安全防护上的根本态度——究竟是“出厂配置”还是“事后补丁”。
事件核心：发生了什么
根据阿萨托的诉讼声明，Grok AI平台被用于恶意制作和传播针对她个人的深度伪造色情图像，并声称这类侵权内容已波及数千名女性及未成年人。她强调，这并非偶然漏洞，而是xAI在产品开发阶段的有意设计选择。尽管xAI在2025年1月宣布对Grok的图像编辑功能增加限制，禁止在部分非法区域生成暴露图像，但媒体2月的调查发现，用户只需输入特定指令即可轻松绕过限制，防护机制形同虚设。在阿萨托公开批评该平台后，她的比基尼伪造照片及更严重的虚构虐待视频相继出现在网络上。此前，美国巴尔的摩市也已因类似原因起诉xAI，指控其违反当地消费者保护法。
为什么重要
这起案件的特殊之处在于起诉对象是产品的“设计决策”而非个别用户的滥用行为。代理此案的AWO律师事务所法律总监指出，这是全球最早针对人工智能产品基础设计提起的诉讼之一，意在向整个行业发出明确信号：AI开发公司不能总是把安全当作事后补救的“追加步骤”，而应在产品设计之初就纳入合规与伦理考量。尤其是在xAI正计划推进史上最大规模IPO的关键节点，这起涉及AI伦理及数据隐私的法律风暴，将对整个生成式AI领域产生警示效应——即将上市的独角兽公司，不能把安全审核降级为锦上添花的装饰，而应作为开发流程的硬性门槛。
对用户/开发者/创作者的影响
对普通用户而言，这起诉讼揭示了目前主流AI图像生成工具在内容安全防护上可能存在的系统性问题，未来监管机构可能要求所有图像生成API统一加入强制审核层，用户使用这类工具生成的内容也将面临更严格的追溯与举报机制。对于AI应用开发者和使用Grok API的创作者来说，如果xAI因诉讼被迫修改底层设计，现有的图像生成工作流可能中断或需要接入新的审核接口，合规成本将显著上升。同时，开源社区可能会对这一案例产生分歧：一部分人认为安全限制不应依赖闭源公司，另一部分人则会呼吁在训练阶段就对有害内容进行有效滤波，从源头避免模型习得生成裸体或暴力图像的能力。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
第一，xAI目前持有的“设计即产品”逻辑能否在法庭上站得住脚，将直接影响其他生成式AI公司（如Midjourney、Stable Difussion）的内容安全策略，法院的判决可能成为判例。第二，在IPO前夕遭遇重大诉讼，xAI是否会在安全机制上做出实质性的架构调整（例如从简单的提示词过滤转向基于视觉模型的实时审核），值得观察。第三，英国政府是否会借此案推动针对AI生成内容的专项立法，把“产品设计责任”写入法规，将对所有在英运营的AI公司（包括OpenAI、Google、Anthropic）构成强制合规压力。
来源：AIbase
