arXiv论文提出CRO调度算法:用共形预测为Agentic AI预留算力

arXiv 2026年11月5日发布的一篇新论文,针对基于大模型的多步智能体系统“运行时才知要多少算力”的调度难题,提出名为 CRO 的在线资源预留算法,论文摘要称其在模拟中兼顾覆盖概率与低冗余预留。

一句话看懂:arXiv 2026年11月5日发布的一篇新论文,针对基于大模型的多步智能体系统“运行时才知要多少算力”的调度难题,提出名为 CRO 的在线资源预留算法,论文摘要称其在模拟中兼顾覆盖概率与低冗余预留。

事件核心:发生了什么

这篇论文关注的是 Agentic AI 系统:由大模型驱动的智能体会动态调用工具、把观察写入记忆,并不断迭代直到任务完成或预算耗尽。与固定图结构的工作流不同,这类系统的总算力、带宽和端到端时延在派发时并不确定,实际需求会随中间观察和随机采样在运行时浮现,呈现重尾、多峰的分布。

作者将问题形式化为“不确定性感知的智能体编排”,目标是派发时就预留足够的算力和带宽,并验证流水线能以给定概率满足截止时间。他们提出的 CRO 算法利用历史执行轨迹的滑动窗口,通过共形预测给出有限样本、不依赖分布假设的覆盖保证。摘要称,在与多峰、重尾任务混合的模拟中,CRO 是评估方法里唯一能在各风险等级下满足目标概率覆盖、同时冗余预留最低的方案,资源浪费约为切比雪夫界基线的一半。

为什么重要

Agentic 应用正从演示走向生产,但基础设施层仍习惯按固定工作流或平稳需求模型做调度。如果按峰值预留,边缘或云端容量会被大量浪费;如果按均值配置,又可能在执行中途被限流或超时。论文点出的空白有现实意义:现有调度器要求完整已知的流水线图,边缘资源管理方法则依赖参数化或平稳需求假设,二者都不适配智能体任务的非平稳特征。用共形预测把统计保证引入资源编排,是一条值得跟踪的技术路线。

对用户/开发者/创作者的影响

目前公开信息仅为论文摘要,尚无已上线产品可供调用。对开发者而言,这类方法若成熟,可能影响未来云函数、推理 API 或边缘平台的计费与超时策略:服务商能用更紧的预留覆盖多步智能体负载,成本压力有望下降。对企业采购方,评估 agent 平台时要多问一句:调度是按固定流程还是按运行时需求建模,超时和限流如何保底。对普通用户,直接影响暂时有限,但更稳的任务完成率与更低的推理成本,最终会体现在 AI 应用的价格和可靠性上。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文全文的实验设置是否可复现,模拟结论能否扩展到真实云与边缘环境;二是主流推理平台和智能体框架是否采纳类似的在线预留机制;三是共形预测的覆盖保证在延迟反馈、多租户混跑场景下是否仍成立。这些都需要等待后续公开材料验证。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 33160

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注