一句话看懂：Anthropic 联合创始人 Jack Clark 向 BBC 表示，能由第三方核查的 AI“关闭开关”未来可能需要强制设置，并称当前让 AI 处于“完全不受监管的行业”状态下，等于“在巨大风险中掷骰子”。
事件核心：发生了什么
据 BBC 报道，Anthropic 七位创始人之一 Jack Clark 在接受采访时提到，“大多数实验室都有各自拔掉电源的方式”，Anthropic 也不例外，但他认为立法者可能需要强制企业具备这样的机制。他把“是否应强制企业配备关闭开关、这个开关能否被第三方验证”归类为围绕 AI 的“更大政策讨论”的一部分。Anthropic 成立于 2021 年，由一批前 OpenAI 员工创办，目前估值约 9650 亿美元，并正在筹备 IPO。此番表态的背景是，Anthropic CEO Dario Amodei 上周末呼吁放缓 AI 开发节奏并加强监督，同时强调不应因此“牺牲商业优势”。此外，一位因担忧 AI 灭绝人类而离开 Anthropic 的研究员所发帖文近日广泛传播，该公司的科学家 Evan Hubinger 回应称，他个人认为 AI 导致人类灭绝的概率“在未来十年内高于 10%”。
为什么重要
这不只是一次技术安全讨论，而是直接触及 AI 行业的监管底线与商业叙事。目前公开信息显示，美国已有议员提出俗称“Kill Switch Act”的立法动议，要求企业具备关停问题 AI 工具的能力，并授权特定政府机构要求关停或限制工具；但美国总统特朗普明确反对放慢 AI 发展，称相关担忧是“骗局”。英国政府则拒绝了针对危险 AI 的“关闭开关”设想。与此同时，行业内部对“灭绝风险”这一说法并不统一：Hugging Face 负责人 Clement Delangue 和 Grindr 负责人 George Arison 均公开质疑这类恐惧被夸大或用于支撑商业计划。Clark 本人拒绝给出人类被 AI 消灭的具体概率，称这类统计“没那么有用”，但坚持认为放任 AI 作为“完全不受监管的行业”发展是坏主意。对 Anthropic、OpenAI 这类头部大模型公司而言，安全议题与 IPO、估值、政策游说正越来越难分开。
对用户/开发者/创作者的影响
如果“可验证的关闭开关”进入监管框架，最先受影响的会是模型提供方的上线流程与合规成本，而不是普通用户界面。对开发者来说，调用 API 或部署大模型推理服务时，未来可能面临更明确的可中断能力、日志留痕或第三方审计要求，闭源与开源模型的合规路径也可能分化。对内容创作者和企业采购而言，短期内更现实的变化是供应商在合同、SLA 和内容安全策略中增加“可关停”“可追溯”条款，尤其涉及图像生成、自动化 AI 应用等高风险场景时。目前这些仍是政策讨论，尚未变成产品规则。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是美国“Kill Switch Act”类立法是否推进，以及监管机构是否获得实际关停权限；二是 Anthropic 在 IPO 进程中如何处理安全承诺与商业增长的关系；三是英国、美国之外的司法辖区是否跟进类似强制要求，以及头部实验室是否自愿公开其“关闭开关”与第三方验证方案。这些观察点将决定该议题是停留在高管表态，还是转化为开发者必须遵守的合规要求。
