一句话看懂:Modal 在首届 Runtime 大会上发布 VM Sandboxes、Sandbox Sidecars、Modal Clusters 等多项 Runtime 产品更新,核心是让 AI Agent 拥有更接近真实机器的执行环境,同时把多节点训练、会话状态保持和推理评测纳入同一套 Serverless 平台。
事件核心:发生了什么
据 Modal 官方工程博客,Modal 在首届 Runtime 大会上公布了多项产品进展。其中最受关注的是 VM Sandboxes:开发者通过 modal.Sandbox.create(app=app, runtime="vm") 即可让 Agent 获得一台完整 Linux 计算机,支持运行 Docker 栈、本地数据库、开发服务器、图形环境和移动模拟器,甚至触及 Linux 内核层面。Linear、Legora、Snorkel 已将其用于编码 Agent 和评测。
同时发布的还有 Sandbox Sidecars,它让凭证、代理等可信逻辑跑在 Agent 无法直接访问的旁路容器中,且与主 Sandbox 共享主机、通信走本地,减少高频执行循环中的网络往返。Modal Clusters 以 @modal.clustered 装饰器形式正式可用,支持跨多个协调容器的任务,面向万亿参数模型的训练与推理,Decagon、1x、Runway 已分别在后训练、预训练和实时推理中使用。Sticky Sessions 用于把客户端请求固定到同一容器以保持状态;Endpoint Candidates 则允许将生产流量镜像到备选推理配方,对比质量、延迟、吞吐和成本,目前处于定向私测,即将全面开放。
为什么重要
Agent 的能力瓶颈正从模型本身转向执行环境。VM Sandboxes 把沙箱从受限进程升级为完整虚拟机,意味着 Agent 可以跑真实软件栈,而不是只能调用少量预置工具。Sidecars 解决的则是安全与性能的老矛盾:Agent 生成代码不可信,但凭证和代理又必须可靠,旁路容器把两者隔离开,同时避免网络开销。Modal Clusters 的 GA 则补上了 Serverless 平台在分布式训练和万亿参数推理上的短板,使 Modal 能同时覆盖轻量 Agent 执行和重负载模型训练。
对用户/开发者/创作者的影响
对开发者而言,VM Sandboxes 降低了构建编码 Agent、代码评测和复杂工具调用的基础设施成本,一条创建语句即可拿到完整 Linux 环境。Sidecars 让团队在不牺牲安全的前提下接入真实凭证和外部服务,适合执行密集的 Agent 循环。做训练和推理的团队可评估 Modal Clusters 是否适合万亿参数级任务,而 Sticky Sessions 对语音模型等实时服务尤为关键。Endpoint Candidates 则给推理优化提供了 A/B 对比路径,不过目前公开信息显示其仍处私测阶段,普通用户暂时无法直接使用。
值得关注的后续
一是 VM Sandboxes 的实际隔离强度与启动延迟表现,这决定它能否被更广泛的生产 Agent 采用;二是 Endpoint Candidates 从私测转向全面开放的时间与定价;三是 Modal Clusters 在万亿参数训练场景中与现有分布式训练方案的性价比对比,以及是否有更多客户披露落地细节。


