AI 关停开关真的存在吗？

事件核心：发生了什么

加州州长加文·纽森于9月18日发布行政令，要求成立一个由专家主导的小组，任务是“强化”该州现有的AI安全法规，具体方向包括加快落地第三方安全评估、强制性的风险报告机制。该小组还被要求探讨对前沿模型实施“紧急关停”的可行性，纽森本人在X的视频中直接用了“AI kill switch”这个说法，并承认这个词的含义“取决于你和谁聊”。

背景是今年7月美国两名众议员提出的两党《AI Kill Switch Act》，该法案拟授权国土安全部对被认为可能造成“灾难性伤害”的AI系统进行减速或叫停，并要求开发者内置“限流、暂停或完全关闭”机制。纽森的行政令方向与之类似，但目前公开信息显示，联邦法案尚未落地，加州的专家小组也仍处于研究阶段。

为什么重要

“关停开关”之所以被反复讨论，是因为它对技术现实的理解过于简化。加州大学伯克利分校人类兼容AI中心执行主任Mark Nitzberg对《科学美国人》直言，通用AI关停开关“更像是一种愿望，而非现实”。被称作“AI教父”的Geoffrey Hinton也对CNN表示，他不认为关停开关是应对超级智能担忧的有效长期方案。

更现实的争议在于监管方式。数字民主中心（CDT）州事务主管Travis Hall对Mashable表示，他们担心“关停开关”类提案在降低风险上无效，反而会引入新的安全隐患和政府滥用的可能。他主张AI安全监督应当是“有意义、独立且持续”的，专家小组需要纳入技术圈之外的民权与自由倡导者。换言之，真正的问题不是“有没有一个按钮”，而是谁有权按、按了之后谁负责、以及如何避免监管条款被大模型厂商用技术话术绕开。

对用户/开发者/创作者的影响

对开发者而言，短期最直接的变化是合规成本。如果加州推进第三方安全评估和强制风险报告，面向加州用户提供API或AI应用的公司，可能需要准备模型能力说明、风险清单和应急响应文档。对闭源大模型厂商来说，这类要求相对容易内化；但对依赖开源模型做二次开发的小团队，评估和报告流程可能成为新的门槛。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对普通用户和创作者，这一轮监管讨论暂时不会改变工具本身的能力或价格。但如果“紧急关停”被写进地方法规，理论上意味着某些前沿模型服务在特定情形下可能被强制限流或暂停——目前公开信息显示，这类机制尚无明确触发标准和执行主体，实际影响仍不确定。

值得关注的后续

一是加州专家小组的组成名单和首份建议，尤其是是否纳入民权组织和技术安全审计方；二是联邦《AI Kill Switch Act》是否进入实质审议，以及国土安全部被赋予的权力边界；三是主要大模型厂商是否主动公开自己的“关停”流程，以对冲更硬的监管要求。

来源：Mashable