加州州长希望对前沿 AI 模型实施一键关停机制

加州州长纽森签署行政令,要求召集专家小组在两个月内拿出前沿 AI 模型的安全监管建议,其中包括类似“一键关停”的机制。这意味着美国人口最多、AI 公司最集中的州,正试图在模型能力快速外溢之前先立规矩。

一句话看懂:加州州长纽森签署行政令,要求召集专家小组在两个月内拿出前沿 AI 模型的安全监管建议,其中包括类似“一键关停”的机制。这意味着美国人口最多、AI 公司最集中的州,正试图在模型能力快速外溢之前先立规矩。

事件核心:发生了什么

根据 Engadget 报道,加州州长加文·纽森于周五签署行政令,计划召集全美专家,用两个月时间提出一套新的 AI 安全建议,再据此更新加州相关法规。行政令点出了几项具体方向:在 AI 实验室内部嵌入“独立验证机构”,进行定期审计与评估;探索要求 AI 公司向第三方机构提交报告和风险评估;以及强制披露“失控事件”——原文提到的例子是 Hugging Face 事件。纽森的表态是,监管要“审慎但以紧迫的速度”推进。

为什么重要

加州是 OpenAI、Anthropic、谷歌、Meta 等前沿模型公司的主要所在地,州级规则往往会通过合规成本和企业采购条款扩散成全美事实标准。这次的关键词不是传统的内容审核,而是“审计”“第三方验证”“失控事件披露”,指向的是模型训练、推理和部署环节的可追溯性。同一周,Anthropic CEO 达里奥·阿莫代伊也提出三步方案,主张给第三方安全评估人员“类似员工的持续访问权”。目前公开信息显示,产业界与监管方在“外部持续监督”这一点上正在形成一定交集,但具体由谁审计、审计标准如何定,仍没有答案。

对用户/开发者/创作者的影响

对普通用户,短期使用体验不会立刻变化,但模型若被要求记录并上报失控事件,服务中断或功能回滚的透明度可能提高。对开发者和 API 使用者,真正的影响在合规侧:如果独立审计和风险评估成为硬性要求,闭源大模型厂商的接入条款、日志留存和数据处理政策可能收紧;开源模型的发布方则可能面临“谁负责披露”的界定问题。对内容创作者和企业采购方,未来选型时除了价格和算力,可能还要看供应商是否具备可审计的安全流程,这会成为合同里的新条款。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是两个月后专家小组的建议是否包含可执行的“关停”触发条件,还是仅停留在披露义务;二是加州立法机构会不会把建议变成有罚则的法案;三是主要模型厂商是主动配合审计,还是选择把部分训练和部署迁出加州。这三点将决定这道行政令是政策信号,还是真正改变 AI 产品上线节奏的规则。

来源:Engadget

celebrityanime
celebrityanime
文章: 24484

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注