LangChain 讲解如何在 Agent Harness 中构建模型路由器

LangChain 公开了在 Agent Harness 内部搭建模型路由器的实践:面对编码 Agent 成本快速上涨,它将不同任务分发给不同档位的模型,使每个任务的中位成本下降 64%,且质量没有可测量的变化。

一句话看懂:LangChain 公开了在 Agent Harness 内部搭建模型路由器的实践:面对编码 Agent 成本快速上涨,它将不同任务分发给不同档位的模型,使每个任务的中位成本下降 64%,且质量没有可测量的变化。

事件核心:发生了什么

LangChain 团队在 2026 年 10 月 1 日的博客中,介绍了如何为开源编码 Agent「Open SWE」构建模型路由器。起因是团队内部每月的编码 Agent 支出快速攀升,同时客户也反馈了同样的成本压力。

他们的做法分两步:先用 LangSmith 的 trace 数据分析一周内的交互线程,按任务类型分类,发现新功能开发占 22%、Bug 修复占 17%、测试或空跑占 16%;再借助 Artificial Analysis Intelligence Index 的智能-成本曲线,在帕累托前沿上挑选了三个不同成本与速度组合的模型,由路由器根据任务的类型和难度进行分发。

结果是:相比此前统一使用顶级前沿模型的基线,每个线程的中位成本下降 64%,质量没有可测量的变化。LangChain 的核心判断是,路由决策应该放在 Agent Harness 里,而不是通用网关,因为选模型需要领域和任务上下文,而这些上下文只有 Harness 才掌握。

为什么重要

前沿大模型能力虽强,但推理成本高。当 Agent 大规模运行时,全部调用顶级模型并不经济,而多数任务也用不上前沿智能。Anthropic 的选型指南也提到,很多应用从更快的低成本模型起步是更优解。

更关键的是路由该放在哪一层。通用 API 网关通常只看到请求本身,缺少任务上下文;而 Harness 已经掌握任务类型、历史轮次、代码库领域信息,能更准确地判断难度。LangChain 把路由和可观测性、评测体系绑定,而不是做成一个独立的价格比较工具,这给 Agent 架构提供了一个可复用的思路:模型选择本质上是一个依赖上下文的工程决策。

对用户/开发者/创作者的影响

对开发者来说,这意味着不必在「全用强模型」和「全用便宜模型」之间二选一。可以把路由逻辑写进 Agent Harness,用成本、调用次数、线程长度等信号估计任务复杂度,把简单测试、发布流程等短线程任务交给低成本模型,把新功能开发、复杂调查留给强模型。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

前提是先有可观测性:需要 trace 数据、任务分类和明确的成功标准,否则路由器可能悄悄降低质量。LangChain 也强调,有效的路由设计根植于可观测性和评测,而不是拍脑袋切换模型名。

值得关注的后续

一是这套路由方案能否在 Open SWE 之外稳定复现,比如客服、数据分析等其他 Agent 场景。二是随着模型迭代和价格调整,路由器里的模型组合需要持续维护,绕不开评测成本。三是主流 Agent 框架和 API 网关是否会跟进类似的 Harness 内路由能力,目前公开信息显示,这仍是一个相对新兴的实践方向。

来源:LangChain:Blog(RSS)

celebrityanime
celebrityanime
文章: 26813

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注