AI儿童性虐待内容撞上言论自由保护

事件核心：发生了什么

今年 8 月底，美国第七巡回上诉法院一个三人合议庭在审理软件工程师 Steven Anderegg 的案件时，做出了上述裁定。Anderegg 被指控使用生成式 AI 工具制作“超写实”的儿童性虐待素材（CSAM），并涉嫌通过 Instagram 私信向一名未成年人发送相关内容。Meta 检测到该图像后向美国国家失踪与被剥削儿童中心举报，随后 Anderegg 被捕，面临制作、分发和持有相关素材的多项指控。

法院此次仅撤销了“持有”指控，认为依据 2002 年最高法院在 Ashcroft v. Free Speech Coalition 案中的判决，完全由计算机生成、未描绘真实儿童的虚拟 CSAM 处于第一修正案保护范围内。Anderegg 的制作和分发指控仍将继续审理。值得注意的是，法官 John Z. Lee 和 Joshua P. Kolar 在裁决中明确表示对结论感到“不安”，并罕见地暗示最高法院应就 AI 技术与虚拟 CSAM 的交汇点提供进一步指导。

为什么重要

这一裁决并非法院“放纵”AI 生成违法内容，而是对既有判例的直接延伸。1969 年 Stanley v. Georgia 确立了在家中持有淫秽材料的隐私权，2002 年的判决则将纯计算机生成的虚拟 CSAM 纳入言论自由保护范围。问题在于，这两项判例都形成于 AI 图像生成技术成熟之前，当时“超写真”仅存在于理论层面。

如今扩散模型（Diffusion Model）和生成式 AI 工具让任何人都能以极低成本生成难辨真伪的图像，判例与现实的脱节由此凸显。乔治华盛顿大学法学院教授 Mary Anne Franks 指出，第七巡回法院的裁决是对先例的“直接解读”，但法官向最高法院发出的信号说明司法系统内部也意识到需要重新审视边界。如果最高法院受理相关案件，可能直接改变 AI 生成内容的合规框架，影响范围远超 CSAM 本身。

对用户/开发者/创作者的影响

对 AI 图像生成工具的开发者而言，合规压力并不会因这一裁决而减轻。此案只涉及“持有”行为，制作和分发虚拟 CSAM 仍是刑事犯罪，且各州法律、联邦法律与平台政策之间可能存在差异。模型训练阶段的数据过滤、输出端的安全护栏（safety guardrails）以及内容审核机制仍需严格执行，不能因一项地方性判例松动。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对使用开源模型或在本地部署 Stable Diffusion 等图像生成工具的开发者和创作者来说，这一案例提醒：技术能力合法不等于使用目的合法。即便模型本身是开源的，下游生成内容若涉及对未成年人形象的性化描绘，仍可能触碰法律红线。平台方（如云服务商、API 提供方）也更可能在服务条款中明确禁止此类用途，并加强调用端的内容检测。

对普通用户而言，目前公开信息显示，该裁决仅适用于联邦层面的“持有”指控，且仅限完全虚构的图像。若素材中包含真实儿童的肖像（即所谓“morphed”CSAM），仍不在此次保护范围内。

值得关注的后续

第一，最高法院是否会受理此案或类似案件。法官已经明确暗示“亟需指导”，若最高法院介入，可能重新划定虚拟 CSAM 与言论自由的边界。第二，生成式 AI 行业是否会加速采用更严格的内容溯源技术，例如 C2PA 等水印标准，以配合执法机构追溯非法内容。第三，各州立法层面是否会出现针对 AI 生成 CSAM 的新法，进而形成与联邦判例不同的州级监管框架，加剧合规碎片化。目前公开信息显示，此案仅涉及图像生成，尚未延展到视频或实时生成内容，后续判例值得持续关注。

来源：Mashable