Gemini API 推出工具检索:大工具库按需加载参数,降低延迟与成本

Google 于 2026 年 11 月 19 日在 Gemini API 的 Interactions API 中预览上线 Tool Retrieval(工具检索),让 Agent 在需要时才加载工具参数结构,而不是每次请求都把整套工具库塞进上下文,目的是降低输入 token 与延迟,并在工具数量增长时保持…

一句话看懂:Google 于 2026 年 11 月 19 日在 Gemini API 的 Interactions API 中预览上线 Tool Retrieval(工具检索),让 Agent 在需要时才加载工具参数结构,而不是每次请求都把整套工具库塞进上下文,目的是降低输入 token 与延迟,并在工具数量增长时保持选择准确率。

事件核心:发生了什么

据 Google AI Blog,该功能由 Gemini API 产品经理 Lucia Loher 与 Google DeepMind 研究科学家 Nora Kassner 共同发布。开发者只需在请求中加入一个 tool_search 工具,并对希望延后加载的工具设置 defer_loading: true。模型仍能看到每个被延后工具的名称和描述,但参数 schema 不会进入上下文;当模型判断需要某个工具时,会按名称发起检索,API 在同一请求内补全 schema 并完成 function call。官方示例展示了 tool_search_call、tool_search_result 和 function_call 三步,便于调试。该功能适用于 Gemini 3.6 及更新模型,目前为预览状态,无需自建或托管索引,检索在服务端完成。

为什么重要

Agent 连接几十甚至上百个工具时,全量 schema 会快速推高输入 token,增加延迟,并因候选过多而拉低工具选择准确率。Tool Retrieval 本质上是对“工具上下文”做检索式管理:把高频工具常驻、长尾工具待命,这和 RAG 的思路相近,但对象从知识文档换成了函数定义。对 Google 而言,这是在 Agent 基础设施层面的补强,与函数调用、前缀缓存等能力形成配合;对闭源大模型 API 市场来说,工具生态的易用性和成本效率正成为差异化竞争点。

对用户/开发者/创作者的影响

对开发者,接入成本较低:只新增一个工具并加上标记,既有的函数调用流程基本不变,还可与前缀缓存配合,避免延后加载的 schema 破坏缓存前缀。构建多工具客服、订单退款、内部系统自动化等场景的团队,有望减少每次请求的 token 消耗和响应时间。需要注意的是,目前公开信息显示该功能仅在 Interactions API 中预览,且依赖 Gemini 3.6 及以上模型;工具名称和描述的质量会直接影响检索命中率,延后加载过多也可能增加一次检索往返。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是观察预览转正式商用的时间,以及检索本身是否产生额外计费;二是看官方是否给出大规模工具库下的延迟与准确率对比数据;三是关注 OpenAI、Anthropic 等 API 是否跟进类似的按需工具加载机制,以及这一模式能否扩展到多模态工具与第三方工具市场。

来源:Google AI Blog

celebrityanime
celebrityanime
文章: 36166

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注