格隆汇 5 月 21 日|据 The Information:白宫周二向 Anthropic、OpenAI 及其他公司简要介绍了一项自愿性的「模型发布前评估」计划。

格隆汇 5 月 21 日|据 The Information:白宫周二向 Anthropic、OpenAI 及其他公司简要介绍了一项自愿性的「模型发布前评估」计划。

格隆汇 5 月 21 日|据 The Information:白宫周二向 Anthropic、OpenAI 及其他公司简要介绍了一项自愿性的「模型发布前评估」计划。

一句话看懂:美国白宫正在推动一项自愿性质的“模型发布前评估”计划,要求 Anthropic、OpenAI 等公司在上线新模型前接受安全评估。这是美国政府首次系统性地将大型 AI 模型的预发布审查纳入政策框架,标志着 AI 行业合规门槛即将提升。

事件核心:发生了什么

据 The Information 报道,白宫官员在周二与 Anthropic、OpenAI 及其他 AI 公司举行闭门会议,在会上正式介绍了一项名为“模型发布前评估”的自愿性计划。该计划的核心意图是,在基础模型正式向公众推送或通过 API 提供服务之前,由政府或其指定的第三方机构对模型的安全风险、偏见、滥用潜力等维度进行审查。目前,该计划不具法律强制力,但白宫明确表示,希望通过此举建立行业先例,并为后续可能的立法提供实践依据。

为什么重要

这次“评估计划”的出台有两点值得关注。第一,它表明美国政府从“事后追责”开始转向“事前审查”。此前主要依赖公司内部的 red team(红队测试)和行业自律,现在政府希望掌握审查流程的主导权或监督权。第二,虽然当前是自愿参与,但参考欧盟《AI 法案》的先例,“自愿”阶段往往是“强制”阶段的铺垫。对于 OpenAI 和 Anthropic 这类头部公司而言,参与即为一种竞争优势——它可以作为合规牌照,降低未来潜在的监管风险。但对于中小型模型公司和开源社区,如果未来评估要求延伸至开源权重发布环节,则可能显著增加成本。

对用户/开发者/创作者的影响

对于普通用户和开发者,这个计划短期内不会直接影响日常使用 ChatGPT、Claude 等产品的体验。但长期看,模型发布前评估可能导致新模型或新功能的推出周期变长。例如,一个原本计划周更的 API 功能,可能需要等待数周安全审查。对于依赖大模型写代码的开发者、依赖图像生成模型做设计的创作者,这可能意味着更少的功能变更频率,但也可以获得更可控的模型行为——比如减少 unsafe prompt 的响应率。同时,开源社区需留意:如果未来评估标准覆盖开源模型(如 Llama、Mistral 等权重分发),发布门槛将明显抬高。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息显示,该计划的具体评估标准、执行机构以及是否扩展到闭源 API 之外的开源模型分发环节都尚未明确。建议关注以下三点:一是 Anthropic、OpenAI 是否会在下一轮模型发布(如 GPT-5、Claude 4)时主动公开接受评估的细节;二是美国政府是否会将该计划与《芯片与科学法案》中的算力出口限制政策联动,形成对 AI 公司的全链条监管;三是欧洲和日本是否会在类似时间窗口推出自己的“预发布审查”标准,从而加速全球 AI 监管的碎片化。

来源:Readhub · AI

celebrityanime
celebrityanime
文章: 3177

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注