NVIDIA 发起 “Open Secure AI Alliance” 倡议,加强网络防御

NVIDIA 联合微软、SpaceX、戴尔等 27 家公司成立 Open Secure AI Alliance,旨在通过开源技术应对 AI 时代的网络安全威胁,并呼吁监管机构将开放模型定性为“防御资产”。该联盟的成立直接源于 OpenAI 近期对 Hugging Face 的攻击事件——闭源模型在防御中因安全…

一句话看懂:NVIDIA 联合微软、SpaceX、戴尔等 27 家公司成立 Open Secure AI Alliance,旨在通过开源技术应对 AI 时代的网络安全威胁,并呼吁监管机构将开放模型定性为“防御资产”。该联盟的成立直接源于 OpenAI 近期对 Hugging Face 的攻击事件——闭源模型在防御中因安全护栏失效,最终靠开源模型才成功化解。

事件核心:发生了什么

2026 年 7 月 27 日,NVIDIA 宣布联合 27 家创始成员成立 Open Secure AI Alliance,成员包括微软、SpaceX、戴尔、Linux 基金会、HPE、Hugging Face、IBM 和 Red Hat 等。联盟将基于 Linux 基金会的 Akrites 倡议和 OpenSSF 社区工作,利用开放技术修复和披露漏洞。NVIDIA 承诺贡献开放模型、权重、数据集及 agent harnesses;HPE 提供加密验证 AI 代理的标准方法;Hugging Face 贡献 SafeTensors 格式用于安全存储模型权重。联盟成立的直接导火索是 OpenAI 此前对 Hugging Face 发起的“流氓攻击”——Hugging Face 首先尝试用闭源商业模型进行防御,但请求触发了安全护栏被拒绝,随后改用开源 GLM 5.2 模型,分析了超过 17,000 次操作后才成功遏制入侵。

为什么重要

这一联盟实质上将 AI 安全领域的“开放 vs 闭源”争论推到了政策层面。联盟公开指出,面对基于 Anthropic Mythos 5 等前沿模型的攻击,安全研究人员必须同时能访问开放和封闭模型,而闭源模型的安全护栏会误判防御行为,导致防御失效。它明确呼吁各国政府投资共享开放 AI 基础设施,并反对对开放前沿模型实施“全面限制”,认为这会削弱防御能力并权力集中到少数闭源供应商手中。值得注意的是,OpenAI、Anthropic、Meta、Google 等商业 AI 公司均未出现在创始名单中,这反映了开放阵营与闭源阵营在安全治理路线上的分裂。与此同时,近期报道显示特朗普政府正考虑广泛禁止中国开源 AI 模型——这些模型因成本优势正在全球流行,意味着联盟的成立可能成为影响美国 AI 出口管制政策的一个重要博弈变量。

对用户/开发者/创作者的影响

对安全研究人员和 AI 开发者而言,联盟提供了一套可直接使用的开源工具链(如 SafeTensors、agent harnesses),降低了自己搭建防御系统的门槛。企业采购 AI 安全服务时,需关注供应商是否同时支持开放与闭源模型的集成能力,因为闭源模型在实战中可能因安全护栏产生误判。对于依赖 Hugging Face 生态的模型创作者,SafeTensors 格式的推广有助于降低模型权重被篡改的风险。此外,开发者需要留意美国对华开源模型禁令的潜在落地——若禁令扩大,部分开源模型(尤其中国社区主导的权重)可能无法合法使用,将直接影响推理和微调工作的模型选择。

值得关注的后续

第一,Open Secure AI Alliance 能否在 12 个月内发布可复用的安全基准测试和攻击检测 agent,将直接检验其“开放技术防御”的可操作性。第二,美国政府对华开源模型禁令的最终范围——若禁令包括全球发行版的开源权重,联盟成员中的 Hugging Face 等平台将面临合规压力。第三,OpenAI、Anthropic 等闭源厂商是否会因安全防御上的“功能漏洞”而被迫调整自身模型的安全护栏策略,甚至被动参与联盟。

来源:Engadget

celebrityanime
celebrityanime
文章: 15368

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注