Nvidia与多家科技巨头启动AI安全倡议

英伟达联合多家科技、网络安全与企业软件公司成立“开放安全AI联盟”(Open Secure AI Alliance),旨在通过开源工具、模型和技术来提升AI系统与智能体的防护能力,回应近期封闭AI工具在安全事件中的局限。

一句话看懂:英伟达联合多家科技、网络安全与企业软件公司成立“开放安全AI联盟”(Open Secure AI Alliance),旨在通过开源工具、模型和技术来提升AI系统与智能体的防护能力,回应近期封闭AI工具在安全事件中的局限。

事件核心:发生了什么

英伟达与一批科技、网络安全及企业软件公司共同发起了一项名为“Open Secure AI Alliance”的新倡议。该联盟的核心目标是开发和共享开源工具、模型与技术,用于测试、审计和保护AI系统与智能体(AI agents)。英伟达在公告中特别引用了一起涉及OpenAI与Hugging Face的安全事件:当封闭的AI工具无法区分攻击者与防御者,甚至阻碍了取证工作时,Hugging Face利用开源的GLM 5.2模型在其自有系统上审查了超过1.7万个动作,最终成功控制了安全漏洞。该联盟试图将这种“开放+强防护”的模式制度化。

为什么重要

这一倡议直接回应了AI安全领域长期存在的“开放 vs. 封闭”辩论。此前,许多安全事件中,闭源AI模型由于不可审计、不可定制,导致防御者无法及时介入。英伟达明确表态:“正确的做法不是拒绝防御者使用开放系统,而是将开放性与强有力的安全措施、明确的反恶意使用规则、严格的评估与快速修复相结合。”这意味着行业正在从“封闭即安全”转向“开放加安全”——通过开源生态让更多安全团队能测试、验证和加固依赖的AI系统。对于AI基础设施的竞争格局而言,英伟达此举不仅押注开源生态,也试图定义下一代AI安全的标准,从而影响算力、模型分发和应用部署的上下游。

对用户/开发者/创作者的影响

开发者与安全工程师将直接受益:他们可以获取开源的安全评估工具、审计框架和加固模型,从而更低成本地排查自己AI应用中的漏洞。AI应用创作者(如使用大模型构建聊天机器人或智能体的团队)将面临更严格的安全合规要求,但也能借助联盟提供的开源方案提升系统抗攻击能力。企业采购决策者在选择AI平台时,可依据联盟输出的开源安全工具来评估供应商的安全性,而非仅依赖厂商的闭源声明。对于普通用户,虽然短期内感知不明显,但长期来看,AI服务在数据保护、异常行为拦截等方面的可靠性有望提升。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

至少有三点可以持续跟踪:第一,具体开源工具与模型的发布时间表——联盟是否会推出类似“AI防火墙”或“模型安全评估基准”的标准化产品;第二,关键参与方的范围——目前仅提到“多家科技巨头”,但尚未公布具体名单,微软、Google、Amazon等是否加入将直接影响联盟影响力;第三,对闭源AI安全市场的冲击——若开源工具迅速成熟,可能会压缩一批商业AI安全SaaS厂商的生存空间,并促使监管机构更关注开源治理规则。

来源:Slashdot

celebrityanime
celebrityanime
文章: 15455

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注