欧盟表示,OpenAI提议开放网络安全模型的访问权限,而Anthropic尚未跟进

欧盟表示,OpenAI提议开放网络安全模型的访问权限,而Anthropic尚未跟进

欧盟表示,OpenAI提议开放网络安全模型的访问权限,而Anthropic尚未跟进

一句话看懂:欧盟委员会在与OpenAI和Anthropic的沟通中透露,OpenAI已主动提出向外部安全研究人员开放其网络安全相关模型的访问权限,以期加强AI风险防控;而Anthropic目前尚未作出类似承诺。此举表明,在欧盟即将出台更严格AI监管的背景下,头部AI公司正在通过主动让步换取政策空间。

事件核心:发生了什么

据Reuters报道,欧盟委员会在与OpenAI和Anthropic两家公司的会谈中,讨论了一个具体议题:是否应当允许独立安全研究人员访问其AI模型的内部机制,特别是那些涉及网络安全的模型。OpenAI在此次会谈中明确提议,将开放其网络安全模型的访问权限,供外部专家进行漏洞测试和安全研究。Anthropic方面则未在同样层面跟进这一提议。

目前公开信息显示,这一提议仍处于讨论阶段,尚未形成具有法律约束力的协议。欧盟委员会正在评估这种“自愿性透明度承诺”是否足以缓解其对AI系统特别是闭源大模型的安全担忧。

为什么重要

这一事件的重要性体现在两个层面。第一,它标志着欧盟在AI监管上正从“立法强制”转向“谈判施压”:通过与企业直接对话,要求其在正式法规出台前作出实质性让步。OpenAI的开放提议若被采纳,将实质上将此前提倡的“预发布安全评估”从公司内部行为转变为接受外部审计的模式。

第二,Anthropic的拒绝跟进凸显了AI安全理念的路线分歧。OpenAI更倾向于通过开放来换取信任,而Anthropic(本身以安全为品牌核心)可能认为完全开放模型访问会带来更多利用风险。这对行业竞争格局产生了直接影响:谁能更快满足监管要求,谁就可能在欧洲市场获得先发优势。

对AI行业而言,这为“闭源模型如何接受外部安全审查”提供了一种可能范式:并非开放模型权重,而是开放针对特定安全场景的受限API接口,供白帽黑客测试。

对用户/开发者/创作者的影响

对开发者来说,若OpenAI最终落地这一承诺,可能意味着未来在调用其网络安全相关API时,需要接受额外的安全审查流程或使用限制条款。不过,这也可能催生新的第三方插件或工具,帮助用户检测自身应用的安全性。

对普通企业用户而言,这一变化短期内不会直接影响日常AI工具的使用体验。但中长期看,如果模式推广到其他领域(如内容审核、金融模型),企业采购AI服务时将面临更复杂的合规审查要求。

对AI安全研究人员来说,这是好消息:获得高质量闭源模型的直接访问权限,可以更深入地评估其潜在漏洞,提升整个生态的安全性。

值得关注的后续

一是OpenAI何时敲定具体的技术方案——是开放专门的“网络安全模型沙箱”,还是在现有API基础上增加审计接口。二是Anthropic是否会因监管压力而改变立场,或在其他安全领域(如对抗性鲁棒性)作出独立承诺。三是欧盟是否会将这一模式写入《人工智能法案》的后续实施细则中,从而让“闭源模型接受外部安全测试”成为对所有大模型的硬性要求。

来源:www.reuters.com

celebrityanime
celebrityanime
文章: 6096

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注