麻省理工学院的新方法标记在 CASM 上训练的人工智能模型而不生成它

一句话看懂：MIT 与儿童安全组织 Thorn 合作，开发出一种名为 Gaussian probing 的审计方法，能够在完全不生成图像的前提下，以 100% 的准确率识别出专门用于生成儿童性虐待材料（CSAM）的 AI 模型。这解决了长期以来审计 AI 模型是否涉及 CSAM 时面临的法律与伦理困境。

事件核心：发生了什么

MIT 的研究团队在 2026 年 7 月举行的国际机器学习大会（ICML）上发表了一篇论文，详细介绍了这项技术。该方法由博士生 Vinith Suriyakumar 领导，联合副教授 Ashia Wilson 和 Marzyeh Ghassemi 共同完成。传统的 AI 安全测试依赖向模型提问并审查输出，但生成 CSAM 在美国和许多司法管辖区属违法，导致审计无法执行。Gaussian probing 绕过了这一限制：它向模型输入随机数据，并分析模型内部因低秩适应（LoRA）适配器而产生的表征变化。通过捕捉多个层的平均变化，该方法能形成该 LoRA 适配器用途的「指纹」，从而鉴别模型是否被专门用于生成 CSAM。

这项突破的背景是 AI 生成的 CSAM 报告数量的快速增长。美国国家失踪与受虐儿童中心在 2025 年收到了超过 150 万份此类报告，而 2024 年这个数字仅为 6.7 万。开源生成式 AI 模型，尤其是通过 LoRA 技术进行微调，使得不法分子能够大规模制造高度逼真的虐待材料。

为什么重要

这一方法填补了 AI 安全领域一个巨大的盲区。此前，像 Hugging Face 或 Civitai 这类托管开源模型的平台，以及执法机构，缺乏合法且可扩展的手段来筛查模型是否具备生成 CSAM 的能力。Gaussian probing 提供了一个可集成到托管平台的、自动化的、完全合法的筛查方案。因为它不需要生成任何图像，计算开销也极小（仅需检测内部参数变化），理论上可以实时拦截危险模型的上传和传播。此外，该方法比输出过滤器更难被规避：恶意攻击者要隐藏 LoRA 适配器的痕迹，需要从根本上改变基础模型的架构，这比简单调整提示词的难度高得多。

对用户/开发者/创作者的影响

对模型托管平台和开发者：Gaussian probing 有望成为开源模型仓库的自动化审核工具。开发者上传或二次分发经过 LoRA 微调的模型时，平台可以自动运行该检测，阻止非法模型流入公共下载渠道。这降低了平台的法律风险，也减少了开发者无意中托管有害模型的可能。
对普通用户：目前没有直接影响，但如果平台部署该工具，用户下载的模型将更有安全保障，降低了无意中使用或传播非法模型的风险。
对安全研究人员和执法机构：获得了一种非侵入性、合法的鉴定工具，可以大规模筛查数以千计的开源模型变体，而不必让审查员暴露于有害内容中。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

1. 技术落地范围：研究团队计划在更广泛的模型类型上测试该方法，并探索能否在模型进行任何微调之前，就检测出基础模型本身是否具有有害能力。这将是防御从源头前移的关键一步。
2. 开源生态的响应：Hugging Face、Civitai 等主流平台是否会主动集成这一检测机制？这会直接影响大规模开源模型的审核链路和发布速度。
3. 局限性：该方法目前主要针对 LoRA 适配器。如果模型是从零开始在虐待数据集上训练，或者使用了其他微调方法（例如全量微调），可能仍无法被检测。安全团队还需要跟进对抗性攻击的有效性。

来源：Hacker News