Show HN: Ratel,为Agent提供无限工具和技能,且无上下文膨胀

Ratel 是一个开源上下文工程层,能在 Agent 每次调用时仅动态注入当前步骤所需的工具和技能,而非全量加载,从而大幅减少 token 消耗并提升模型准确性,适用于本地、开源及封面前沿模型。

Show HN: Ratel,为Agent提供无限工具和技能,且无上下文膨胀

一句话看懂:Ratel 是一个开源上下文工程层,能在 Agent 每次调用时仅动态注入当前步骤所需的工具和技能,而非全量加载,从而大幅减少 token 消耗并提升模型准确性,适用于本地、开源及封面前沿模型。

事件核心:发生了什么

Hacker News 上,Ratel 项目首次公开发布。项目开发者指出,当前 AI Agent 在系统提示词中一次性加载所有工具 schema、技能和指令,导致每轮对话均需为大量无关 token 付费,且上下文膨胀会降低模型任务专注度和选择准确率。Ratel 通过 BM25 等索引算法,将工具和技能组织为可搜索目录,Agent 每轮仅检索并注入匹配能力,同时支持语义及混合检索作为可选项。项目提供 TypeScript 和 Python SDK,核心检索引擎基于 Rust 实现,无需向量数据库或额外基础设施,已在 benchmark.ratel.sh 公布性能测试结果。

为什么重要

随着 Agent 接入工具和技能数量增长(如 MCP 协议生态的扩展),上下文膨胀已成为阻碍大规模 Agent 部署的关键瓶颈。Ratel 提出的“渐进式披露”设计,直接回应了这一痛点:一方面,它降低了每次调用的 token 开销,对依赖 API 计费的闭源模型(如 GPT-4、Claude)成本优化意义明确;另一方面,它通过减少无关上下文,恢复了模型在复杂多工具场景下的判断准确率。这相当于为 Agent 框架提供了一层“上下文调度”基础设施,既有实时优化价值,也为后续 Agent 系统规模化提供了工程范式参考。

对用户/开发者/创作者的影响

开发者可直接集成 Ratel SDK 到现有 Agent 框架(如 Vercel AI SDK、Pydantic AI),无需改动原有工具注册逻辑,即可自动获得 token 缩减和准确率提升。对于在本地运行模型(如 Llama、Mistral)的开发者,Ratel 采用 Rust 实现检索,计算开销可控,适合嵌入本地开发环境。企业采购者 需关注:该方案减少了对向量数据库的依赖,降低了基础设施复杂度,但在高并发或大规模技能库场景下,BM25 检索精度能否满足业务要求,仍需结合自身数据验证。创作者或低代码用户 短期内无直接交互影响,但底层效率改进有望降低 Agent 产品的使用成本和响应时间。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,Ratel 的基准测试数据是否能在社区复现,尤其是与其他上下文压缩或检索策略(如 RAG、prompt 缩减)在相同 Agent 任务上的对比。第二,该项目能否被主流 Agent 框架(如 LangChain、AutoGPT、CrewAI)接纳为标准上下文管理组件。第三,项目依赖 Rust 和 NAPI/PyO3 绑定,其跨平台兼容性和长期维护持续性,将直接影响它在 Python 与 Node.js 生态中的采用率。目前公开信息显示,Ratel 还提供了 MCP 本地分发项目(ratel-mcp),表明团队正在主动链接当前最活跃的 Agent 工具协议生态。

来源:Hacker News · 24h最热

celebrityanime
celebrityanime
文章: 13775

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注