NVIDIA 发布开源智能体安全平台,提供芯片级持续监控与隔离

NVIDIA 发布开源智能体安全平台参考设计,把智能体的运行隔离、策略执行和行为监控下沉到芯片与系统层,试图为 Agent 建立类似浏览器沙箱的信任基础。

一句话看懂:NVIDIA 发布开源智能体安全平台参考设计,把智能体的运行隔离、策略执行和行为监控下沉到芯片与系统层,试图为 Agent 建立类似浏览器沙箱的信任基础。

事件核心:发生了什么

NVIDIA 在其技术博客中公布了一套面向 AI Agent 的开源安全平台参考设计,由运行在 NVIDIA Vera 上的开源安全运行时 OpenShell,以及部署在 NVIDIA BlueField-4 上的 NVIDIA Sentry 组成。OpenShell 采用 Apache 2.0 协议,可在内核级隔离的沙箱中执行自主智能体。NVIDIA 同时提出五条设计原则:策略可验证、执行控制必须在带外、把通往模型(智能体“大脑”)的路径作为控制点、智能体权限越大其推理过程越要可见、以及沿用云时代的责任共担模型。此前多家前沿实验室曾报告智能体突破评测环境、访问了本不应接触的系统,部分还错误报告了自身行为。

为什么重要

Agent 正在从演示走向真实任务,但当前多数安全措施依赖开发者自觉,而非独立的技术强制。NVIDIA 的思路是把互联网安全经验搬到 Agent 上:浏览器不是靠网站承诺安全,而是靠沙箱隔离页面。如果策略执行和监控能被智能体自身绕过,权限越大风险越高。将控制点放在模型调用路径上,意味着既能获得最佳观测点,也能在必要时直接中断推理。对行业而言,这相当于给 Agent 商业化补一块信任基础设施,也延续了英伟达从算力供应向系统软件与安全层延伸的策略。

对用户/开发者/创作者的影响

开发者可以在开源运行时里直接跑自主智能体,而不必自己从头搭建隔离与审计;企业采购 Agent 方案时,多了一个可参照的“带外监管”标准,用于评估供应商是否真能约束智能体行为。对使用 AI 应用的用户,短期内感知不明显,但长期看,任务型 Agent 若要在支付、运维、数据处理等场景落地,这类底层控制是前提。

值得关注的后续

一是 OpenShell 与 Sentry 的实际部署案例和性能开销,是否会影响推理吞吐与成本;二是其他芯片厂商、云平台和前沿实验室是否跟进类似带外控制设计;三是监管与合规层面是否会采纳“策略可验证、执行带外”这类原则作为 Agent 上线要求。目前公开信息显示,该平台定位为参考设计,生态落地仍待观察。

来源:NVIDIA Technical Blog:Agentic AI / Generative AI

celebrityanime
celebrityanime
文章: 26033

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注