NVIDIA 等多家行业领袖联合成立 Open Secure AI Alliance,推动 AI 安全与防御开源化

NVIDIA 联合 Adobe、Microsoft、Hugging Face 等 40 余家机构成立 Open Secure AI Alliance,致力将 AI 安全防御工具开源化。此举旨在让防御者能自主审查、修改和部署安全能力,打破闭源系统在关键基础设施中的单点失效风险。

一句话看懂:NVIDIA 联合 Adobe、Microsoft、Hugging Face 等 40 余家机构成立 Open Secure AI Alliance,致力将 AI 安全防御工具开源化。此举旨在让防御者能自主审查、修改和部署安全能力,打破闭源系统在关键基础设施中的单点失效风险。

事件核心:发生了什么

11 月 19 日,NVIDIA 在官方博客宣布与 Adobe、Capital One、Cisco、Cloudflare、CrowdStrike、Databricks、IBM、Linux Foundation、Microsoft、Red Hat、Salesforce 等公司共同发起 Open Secure AI Alliance。该联盟基于 Linux Foundation 的 Akrites 倡议和 OpenSSF 社区工作,核心任务是开发并共享开放技术、方法和工具,以保护 AI 时代下的软件与智能体。

NVIDIA 同步开源了其研究项目 NOOA(NVIDIA Labs Object-Oriented Agent),这是一个面向智能体框架的安全能力增强项目,已上架 GitHub。联盟还引用近期 Hugging Face 安全事件为例:闭源 AI 工具因无法区分攻击者与防御者,阻止了必要取证分析,而 Hugging Face 使用开源 GLM 5.2 模型在自己基础设施上分析了超过 1.7 万条操作记录,最终遏制了入侵。

为什么重要

当前 AI 安全领域面临一个路线选择:防御能力是隐藏在少数不透明系统中,还是建立在可审查、可适配、可部署的开源模型与框架上。联盟的成立标志着行业巨头集体选择了后者。对安全生态而言,开源防御能力能实现社区驱动的分布式自控,消除单点故障;对企业而言,可以在多云、多供应商环境中构建一致的安全体系,而不受制于某个闭源平台的封闭逻辑。

文章也明确承认开源模型可能被滥用(如移除安全护栏),但指出闭源系统同样面临这些风险。正确的应对不是限制防御者获得强大开放系统,而是配套强护栏、明确禁止恶意使用的规则、严格评估和快速修复。这一立场平衡了安全性与开放性。

对用户/开发者/创作者的影响

开发者和安全工程师:可以免费获取 NOOA 等开源框架,在自己的基础设施上部署可审查的 AI 安全方案。这意味着不必依赖黑盒 API,能自行审计模型行为、定制防御策略,尤其适合金融、政务、医疗等对数据主权要求严格的行业。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

企业和组织:未来可选择的开源安全工具池将扩大,采购时不再被单一供应商锁定。联盟成员覆盖云、安全、企业软件等领域,产品间互操作性有望提升。

普通用户:虽然不直接使用工具,但开源安全机制增加了 AI 服务被快速修复漏洞的能力,间接降低了数据泄露、恶意攻击等风险。

值得关注的后续

1. NOOA 项目的实用化进度:目前是研究框架,能否被主流安全产品集成、社区反应如何值得观察。
2. 联盟是否会制定统一安全标准:现有 40 余家成员背景差异大,若能在评估方法、漏洞披露流程上达成共识,将影响整个 AI 安全行业。
3. 闭源厂商的应对:OpenAI、Google 等闭源模型厂商是否会加入联盟或推出对应开源策略,将影响安全防御路线竞争格局。
4. 监管与合规影响:欧盟 AI 法案、美国行政令可能参考此类开源安全实践,明确对关键基础设施中 AI 系统的要求。

来源:NVIDIA Blog(RSS)

celebrityanime
celebrityanime
文章: 15411

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注