NVIDIA 把 Agent Substrate 捐给 CNCF:让 Kubernetes 以 10 倍密度承载 Agent

NVIDIA 推出开源运行时 Agent Substrate,并已捐赠给 CNCF Sandbox,用会话快照复用少量 Pod 来承载大量 Agent,宣称容器密度提升 10 倍,直指 Kubernetes 难以适配 Agent 负载的老问题。

一句话看懂:NVIDIA 推出开源运行时 Agent Substrate,并已捐赠给 CNCF Sandbox,用会话快照复用少量 Pod 来承载大量 Agent,宣称容器密度提升 10 倍,直指 Kubernetes 难以适配 Agent 负载的老问题。

事件核心:发生了什么

据 NVIDIA 生成式 AI 博客 2026 年 11 月 10 日发布的内容,AI Agent 多数时间处于等待状态——等人输入、等工具返回、等模型响应。若用 Kubernetes 为每个会话常驻一个 Pod,闲置会话会长期占内存;若按轮次反复创建和删除 Pod,每次冷启动要数秒,还会丢失 Agent 状态。强化学习后训练同样卡在这一环。

Agent Substrate 的解法是:仍然用 Kubernetes 维持一个小规模就绪 Pod 池,另建控制平面,把大量 actor(Agent 及其环境)映射到这批 worker 上。actor 空闲时被快照(含内存和文件系统),worker 被释放;下次请求到达时,恢复到任一空闲 worker,无需再走 API server、调度器和 kubelet。项目定位为开源、安全加固、零信任的沙箱运行时,宣称可承载数百万 Agent 与工具,密度为常规容器的 10 倍。

为什么重要

当前 Agent 基础设施正分化出绕开 Kubernetes 的专有运行时,NVIDIA 选择把这项工作上游化、开放化,意在防止生态被私有方案割裂。对平台团队来说,这直接对应一个现实取舍:要么为每个 Agent 常驻 warm Pod 承担近似全时的闲置算力成本,要么每步都付冷启动代价。Agent Substrate 试图给出第三条路。其适用场景包括编码助手、带可验证奖励的 RL 后训练,以及研究用的 GPU 沙箱——后训练中沙箱需求按 rollout 批次突发,最慢的环境会拖住 GPU 训练进度。

对用户/开发者/创作者的影响

对用 Kubernetes 跑 Agent 平台的开发者,这是一套可参考、可参与上量的开源路径;worker 仍是普通 Pod,集群调度、配额和放置策略继续生效。上游工作已公开在 Agent Substrate 仓库,例如路由器新增的请求挂起机制(#22):所有 worker 繁忙时,新请求先排队而非直接报错,针对编码平台高峰和 RL rollout 突发。目前公开信息显示,它与 KAI Scheduler 及 NVIDIA Dynamo 组件在 DSX AI Factory Platform 上协同,具体成熟度需看仓库进展。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 CNCF Sandbox 阶段的项目能否获得足够社区贡献,避免沦为单一厂商主导;二是快照与恢复在长会话、大文件系统和 GPU 沙箱上的实测开销是否如宣称般可用;三是主流云厂商和 Agent 框架是否跟进集成,形成事实标准。

来源:NVIDIA Generative AI Blog

celebrityanime
celebrityanime
文章: 34114

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注