谷歌发布 Gemini Decisions API:单次前向传递打分,端到端延迟压至 150 毫秒

谷歌推出基于 Gemini Decision1 模型的 Gemini Decisions API,它跳过逐字生成文本的过程,直接对预设选项打分,端到端延迟降到 150–250 毫秒,输入价格低至每百万 token 0.10 美元。

一句话看懂:谷歌推出基于 Gemini Decision1 模型的 Gemini Decisions API,它跳过逐字生成文本的过程,直接对预设选项打分,端到端延迟降到 150–250 毫秒,输入价格低至每百万 token 0.10 美元。

事件核心:发生了什么

根据 AIbase 于 2026 年 11 月 12 日的报道,谷歌正式上线 Gemini Decisions API,底层由 Gemini Decision1 模型驱动。与传统大模型逐 token 生成文本不同,这个接口在一次前向传递中直接对预设选项打分,返回概率和置信度。

目前公开信息显示,该 API 单次调用可评估最多 1,000 个独立问题,共享同一份多模态输入,输入形式覆盖文本、图像、音频、视频和 PDF。调用格式包括快速的是或否判断、最多 255 个选项的多选题,以及按预设标准进行的评分请求。定价为每百万输入 token 0.10 美元。

为什么重要

大模型在后台执行复杂工作流时,往往需要大量轻量判断,比如路由选择、条件校验、结果分类。这些环节如果都靠生成完整文本来完成,会白白消耗算力并拉长推理时间。

Gemini Decisions API 把问题拆成了打分:指定问题、预设选项、单次推理、直接给出结果。这一路线对推理成本和响应速度都有压缩空间,同时也把大模型的定位从内容生成器扩展到决策组件,适合嵌入高频交互的 AI 应用和 AI Agent 流程。

对用户/开发者/创作者的影响

对开发者来说,最直接的变化是决策类任务的调用方式变得更轻。以前需要写提示词、解析模型输出文本,现在可以按结构化选项提交,拿回概率和置信度,适合用来做分类、筛选、路由等环节。多模态输入和批量评估也能减少多次调用带来的工程复杂度。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对普通用户和创作者,这类接口更多是在后台生效,前期不会直接改变使用体验,但可能让智能助手、内容审核、工作流自动化等产品的反应更快、单次判断成本更低。

值得关注的后续

一是实际延迟和准确率能否在真实业务负载下保持在官方所说的区间;二是批量评估与多模态组合调用是否有额外限制或费用;三是这一接口能否吸引主流 Agent 框架接入,形成围绕决策型 API 的开发习惯。目前公开信息未披露正式可用范围与完整限流细则,仍需以官方文档为准。

来源:AIbase

celebrityanime
celebrityanime
文章: 34547

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注