一句话看懂：Anthropic 向加州州长 Gavin Newsom 提交政策建议，主张在独立评估发现模型构成严重风险时，州政府应能请求法院暂停该模型的发布、使用或研发；这为加州 AI 安全立法和「关闭开关」之争提供了新的制度路线。
事件核心：发生了什么
据 The Next Web 援引 Politico 报道，Anthropic 在 10 月 15 日致信加州州长 Gavin Newsom，回应其 9 月签署的行政令。该行政令要求成立工作组，在两个月内提出强化加州 AI 安全法律的建议，其中一个争议点是开发者是否必须能关闭自家模型。Anthropic 提案的核心是：由独立评估方将风险上报加州总检察长，若认定存在近期灾难性危害，总检察长可向法院申请暂停该模型，法院命令可覆盖模型发布、公司内部使用以及后续研发。此外，Anthropic 还建议外部安全审计人员进驻头部 AI 公司、企业向州级基金缴费而非直接支付审计方，并要求大型开发商至少每半年发布一次风险报告。在「关闭开关」问题上，Anthropic 认同头部公司应具备快速关停能力，但认为只立法规定关停可能带来虚假安全感，主张更细粒度的措施，例如关停单个 AI agent 或切断某一客户的访问权限。
为什么重要
目前公开信息显示，这是 AI 公司罕见地主动支持司法介入模型管控。与单纯要求企业「自证安全」相比，法院禁令把最终裁量权交给第三方，可能改变大模型发布前的合规节奏。同时，OpenAI 在 10 月 20 日也向 Newsom 提交建议，支持关停控制和内部审计，但不支持法院下令封堵高风险模型，显示两家头部公司在监管工具上已出现分歧。Anthropic 还在华盛顿推动类似思路：其传阅的联邦法案草案允许商务部在窄口径情形下请求联邦法院阻止模型发布；众议院议员则提出了「AI Kill Switch Act」，允许官员命令 AI 公司关停危险模型。
对用户/开发者/创作者的影响
对开发者而言，若加州采纳该提案，通过 API 调用大模型的应用可能面临更严格的上线前评估，尤其是涉及高风险场景的产品；企业客户在采购闭源模型时，也需要关注供应商的审计与风险报告披露。对创作者来说，图像生成、内容生成类工具若被纳入「严重风险」评估，其可用版本和功能边界可能受法院命令影响。开源模型目前不在提案的直接表述范围内，但独立评估和审计要求若扩展，可能影响开源社区的分发与部署方式。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 Newsom 工作组是否在两个月期限内把「法院禁令」写入正式建议；二是加州立法是否采纳 Anthropic 方案，还是沿 OpenAI 路线只保留关停与审计；三是联邦层面的草案和「AI Kill Switch Act」是否推进，以及法院禁令的触发门槛如何界定。
来源：The Next Web
