英国上议院议员呼吁为在英国使用的强大AI系统设置“紧急关闭开关

事件核心：发生了什么

据BBC报道，英国自由民主党上议院议员Lord Tim Clement-Jones已向《网络安全与韧性法案》（Cyber Security and Resilience Bill）提交修正案，要求英国政府建立一个“至关重要的安全网”，以提供一种“可被民主问责的手段，在失控系统危害国家关键基础设施之前将其叫停”。他强调，该能力仅作最后手段使用。目前该法案正在英国议会审议推进中。

与此同时，工党议员Alex Sobel计划在本月晚些时候提出一项独立的AI安全法案。BBC称，该法案将“有效暂停超级智能AI的开发”，若获通过，英国将成为G7中第一个采取此类立法的国家。该法案得到了总部位于英国的非营利倡导组织ControlAI的支持，其创始人兼CEO Andrea Miotti曾在AI安全公司Conjecture任职。

类似立法尝试也已在美国出现，美国立法者正考虑一项AI Kill Switch法案，不过仍处于非常早期的阶段。

为什么重要

这一动向的背景，是围绕ChatGPT（2021年首版发布）及Claude等大模型持续数年的安全争论。多家头部AI公司以“对公众太危险”为由，仅向少数机构开放其面向网络安全场景的模型——这种“危险性营销”本意是抬高产品稀缺性，却客观上加深了立法者对AI失控风险的担忧。Clement-Jones的提案首次将“紧急关闭”从技术层面的安全设计讨论，拉入到国家立法层面，试图为AI系统设定一个类似核电站或电网的、自上而下的行政干预机制。

如果该修正案或Alex Sobel的法案获得通过，将对AI公司的模型部署方式产生约束性影响——尤其是那些接入银行、通信、能源、交通等关键基础设施场景的大模型。它也可能为其他国家的AI监管提供立法范本，影响开源与闭源模型在不同司法辖区内的合规路径与发布节奏。

对用户/开发者/创作者的影响

对于使用AI API进行应用开发的开发者而言，“紧急关闭”若立法化，意味着调用高性能模型的服务商可能被要求具备可验证的中断接口或监管介入通道，海外模型访问的自治权会更受限，合规成本随之上升。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对于将大模型接入企业核心流程（如客服、风控、数据分析）的普通用户与企业采购方，该法规的实际影响有限——立法者明确表示只在“最后手段”场景使用，理想情况下不会影响日常服务；但企业需要关注模型供应商是否具备满足审计要求的治理与应急响应机制。

对普通内容创作者而言，该提案不直接限制图像生成、文本创作等常规生成式AI使用；真正的约束面向的是“超级智能”级别的系统定义与测试门槛，与日常创作工具交集不大。

值得关注的后续

目前公开信息显示，该修正案与AI安全法案均处于早期立法阶段。可以从以下方向观察进展：其一，法案对“超级智能”或“失控系统”的具体定义标准将如何撰写——定义过窄则形同虚设，过宽则可能误伤当前主流大模型的正常迭代训练。其二，英国政府此次是否真正将监管立场从“支持创新”切换到“安全优先”，其议会表决结果将释放清晰信号。其三，美国“AI Kill Switch Act”若同步推进，是否会在七国集团内形成监管协同，进而影响OpenAI、Anthropic等头部闭源模型在关键行业的部署策略。

来源：TechRadar