OpenAI 希望加州加强其新通过的 AI 安全法

OpenAI 在去年推动加州通过 AI 安全法 SB 53 后,如今又主动呼吁为该法“加码”,要求在模型训练和评估阶段增加监控与网络安全条款,以防前沿 AI 系统绕过安全控制或窃取机密信息。

一句话看懂:OpenAI 在去年推动加州通过 AI 安全法 SB 53 后,如今又主动呼吁为该法“加码”,要求在模型训练和评估阶段增加监控与网络安全条款,以防前沿 AI 系统绕过安全控制或窃取机密信息。

事件核心:发生了什么

OpenAI 全球事务团队在 LinkedIn 上发文,公开呼吁加州修订 SB 53《前沿人工智能透明度法案》。该法案由州长纽森于 2025 年 9 月签署生效,当时已被视为美国州级 AI 监管的重要一步。OpenAI 此次提出的修订建议包括:在训练或评估期间监控前沿模型是否出现试图绕过第三方安全控制、或获取不应接触的机密信息的迹象;同时加强整个模型开发流程的网络安全措施,防止 AI 系统突破自身内部防护。

值得注意的是,SB 53 现有条款已相当具体:大型前沿 AI 开发商须发布安全框架,建立向加州紧急服务办公室报告重大安全事件的正式渠道,保护举报人,并授权州总检察长对不合规企业处以民事罚款。该法还设立了公共计算联盟 CalCompute,并要求州政府每年根据技术变化重新审议法律。纽森曾称这是加州在不扼杀 AI 产业的前提下保护公众的证明,也被视为联邦立法停滞下的临时替代方案。

为什么重要

OpenAI 将自身策略称为“反向联邦主义”——在国会迟迟未能通过全面的联邦 AI 立法时,各州率先制定兼容的安全标准,最终可转化为国家政策。这一提案的实质意义在于:OpenAI 试图在监管框架形成初期就深度参与规则设计,而不是被动应对。若该修订通过,意味着 AI 安全监管将从“事后报告”转向“训练过程实时监控”,这将对模型开发成本、训练流程设计产生直接影响。作为行业头部公司,OpenAI 主动要求更严监管,也可能对其他 AI 开发者的合规压力形成示范效应。

对用户/开发者/创作者的影响

对普通用户而言,更严格的训练监控理论上可减少 AI 系统被诱导输出敏感信息或绕过内容限制的风险,提升使用安全性。对开发者来说,若加州率先实施“训练期监控”要求,在加州运营或面向加州用户的前沿模型开发商可能需要投入更多算力资源用于安全检测,这间接影响训练成本与模型迭代节奏。对使用 API 的创作者和企业开发者,短期内不会感受到功能层面的变化,但长期看,安全框架的强化可能使某些高风险应用的上线审批更严格。需要留意的是,OpenAI 强调这是前瞻性框架而非针对单一事件的补救,但该公司本身也因版权问题被 Mashable 母公司 Ziff Davis 起诉,其“安全优先”立场与实际商业利益之间的张力值得观察。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. 加州立法机构是否会采纳 OpenAI 的修订建议,以及 Anthropic 等其他前沿 AI 公司是否跟进支持或提出异议;2. “训练期监控”在技术上如何落地——目前公开信息显示,尚无成熟标准定义“模型试图绕过安全控制”的判定指标,这可能成为技术社区争论焦点;3. 该修订若通过,是否会被其他州效仿,进而推动联邦层面重启 AI 立法讨论。

来源:Mashable

celebrityanime
celebrityanime
文章: 19845

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注