xAI 正挑战明尼苏达州一项禁止“脱衣”应用的新法律

事件核心：发生了什么

明尼苏达州今年早些时候由州长蒂姆·沃尔兹签署了一项全美首部针对“脱衣”应用（Nudify Apps）的州法律，禁止任何能生成非自愿亲密图像的网站或App，并对开发者每次被用户用于制作性深度伪造行为处以50万美元罚款。xAI在诉讼中承认用户确有滥用行为（例如利用Grok生成真实人物裸照），并强调已严格禁止且起诉了违规用户，但认为该法律“过度宽泛”——它基于内容限制表达工具，会牵连大量合法图像编辑与视觉创作活动。诉状指出，若不挑战该法，xAI将被迫自8月1日起大幅限制Grok Imagine的图像编辑功能，从而“寒蝉”受保护的言论。州检察长基思·埃里森在X上回应称“AI脱衣夺走人的尊严并造成巨大伤害”，直言“法庭见，怪人”。

为什么重要

这是美国首部专门针对“脱衣”AI应用的州级立法，一旦被司法确认或推倒，都将成为其他州乃至联邦立法的参照标尺。xAI作为当前最受关注的AI公司之一直接起诉，意味着AI图像生成工具在言论自由与防止性暴力滥用之间的平衡点尚未确立。法律设置的巨额罚款（每次50万美元）属于极严厉的经济惩罚，实质上是在要求平台对用户行为承担近乎严格责任，这与《通讯端正法》第230条等传统互联网免责框架形成直接冲突。如果法院支持该法，所有提供开放图像编辑能力的AI公司（包括开源模型）都可能需要退出明州市场或全面禁用相关功能；如果法院裁定违宪，则可能鼓励更多公司抵制类似监管。

对用户/开发者/创作者的影响

普通用户：明尼苏达州居民从8月起可能无法使用Grok Imagine的图像编辑功能（如基于已有照片进行修改），但其他州用户不受直接影响。xAI若被迫调整，全美用户也可能因产品统一变更而失去部分功能。
开发者与AI公司：法律要求对“每一次”用户生成的违规内容罚款，这意味着即便公司已部署过滤系统，只要有一次漏网就可能面临巨额处罚。开发者将不得不投入更多资源做合规审查，或直接移除敏感能力（如“修改照片中衣物”）。这对中小型公司和开源项目尤为不利。
创作者：合法艺术、讽刺、教育类图像编辑（例如将照片风格化、换装设计）可能被误伤。法律并未区分“脱衣”工具的合法与非法用途，而是以“能够生成”作为禁止依据。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

1. 临时禁令请求：xAI是否会在8月1日前申请法院阻止法律生效？法官的初步裁决将预示最终走向。
2. 其他州与联邦动态：加州、纽约等已有类似提案，明州案结果将影响它们是否加速或调整立法。联邦层面的《深度伪造问责法》也可能参考此案。
3. xAI的产品调整：即便胜诉，xAI也可能自愿收紧Grok Imagine的编辑权限，以平息公众与监管压力。后续需观察其过滤机制是否升级，以及是否推出针对未成年人的额外保护模式。

来源：Engadget