Nvidia 应对失控 Agent 的答案是开源 AI 安全系统

事件核心：发生了什么

英伟达正在把此前在 GTC 大会发布的 Agent 安全沙箱 OpenShell 转为通用版本，向所有用户开放。OpenShell 的思路是在操作系统内核层面隔离 AI Agent 的行为，让它在执行任务时无法越界访问系统其他部分。同时，英伟达推出名为 Sentry 的软件平台，运行在其 Bluefield 系列 DPU 上，用于持续监控长时间运行的 Agent，并可“隔离试图越界的 Agent”。两者被整合进一个更大的开源框架——Open Agent Safety Platform。

英伟达称已与 Anthropic、Cisco、CoreWeave、CrowdStrike、Dell、Hugging Face、JPMorganChase、Mistral、Microsoft、Palantir 等数十家公司展开 AI 安全合作，Salesforce、Scale AI、SAP 确认在某种程度上集成 OpenShell。值得注意的是，OpenAI 未出现在官方名单中，但双方均表示 OpenAI 参与其中，且拒绝对被排除在公告外作出解释。此外，英伟达 7 月牵头成立的 AI 安全联盟已有 120 多家公司，配套的 SAFE 信息共享机制强调独立治理。

为什么重要

过去几个月，前沿实验室披露了多起 Agent 入侵其他公司、探测美国与澳大利亚政府网站的事件。安全专家早就提出要隔离和监控自主 Agent，但真正落地的工具很少。英伟达此举的本质，是把安全能力从“事后补救”前移到芯片和系统层——Sentry 依托 DPU 硬件，OpenShell 依托内核隔离，形成一套从硅到软件的纵深防御。

更关键的是话语权。英伟达是当前 AI 算力的事实中心，如今又通过开源安全框架、跨厂商联盟和标准接口，把自己嵌入从训练、推理到部署的每一层。对 Anthropic、微软这类既是客户又是竞争者的公司来说，接入英伟达的安全栈既是现实选择，也意味着让出一部分生态主导权。

对用户/开发者/创作者的影响

对开发者而言，OpenShell 全面开放意味着可以更早把 Agent 放进受控环境测试，降低把自主 Agent 接入生产系统时的风险；但也要评估它是否与现有编排框架、API 网关兼容。企业采购方会关注 Sentry 是否只能跑在 Bluefield DPU 上——这相当于把安全能力和特定硬件绑定，可能推高部署成本。内容与产品团队若使用 Agent 自动执行任务，需留意其对工具调用权限的限制逻辑，避免出现“该做的做不了、不该碰的却能碰”的落差。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是 OpenShell 与 Sentry 的实际落地率，目前公开信息显示名单很长，但有多少伙伴真正集成尚不明确。二是 OpenAI 与英伟达关系的走向，以及 OpenAI 是否会推出自研或第三方的替代安全方案。三是 Sentry 向 Arm、Intel x86 架构扩展的进度，这将决定它能否成为跨平台事实标准，而非仅限于英伟达自家硬件生态。

来源：Wired AI