Google Cloud API Gateway 推出统一模型路由功能,支持 Gemini、Claude 与 OpenAI OSS-GPT

Google Cloud API Gateway 推出模型路由功能的 Public Preview,让开发者通过一个 OpenAI 兼容接口动态调用 Gemini、Claude 和 OpenAI OSS-GPT。这意味着多模型接入正从“自己写代码适配”变成云平台的基础能力,开发者和企业切换或混用大模型的成本会…

一句话看懂:Google Cloud API Gateway 推出模型路由功能的 Public Preview,让开发者通过一个 OpenAI 兼容接口动态调用 Gemini、Claude 和 OpenAI OSS-GPT。这意味着多模型接入正从“自己写代码适配”变成云平台的基础能力,开发者和企业切换或混用大模型的成本会明显下降。

事件核心:发生了什么

Google Developers Blog 发布消息,Google Cloud API Gateway 新增模型路由(Model Routing)能力,目前处于 Public Preview 阶段。该功能提供了一个轻量级、无服务器的入口层,能够接收 OpenAI 兼容格式的请求,并自动将流量动态路由到 Gemini、Claude 或 OpenAI OSS-GPT 等模型后端。开发者无需在应用代码中硬编码模型端点,也无需自行部署和维护开源代理。

根据博客说明,API Gateway 既可以独立使用,用于速率限制(rate limiting)和 token 用量追踪,也可以与 Gemini Enterprise Agent Platform 配合,形成从 Agent 出口安全治理到模型动态调用的完整链路。网关部署后,开发者只需发送标准的 OpenAI 格式 POST 请求(例如 /v1/chat/gemini-claude),网关会负责将请求体转码为后端模型的原生 schema,并实时完成路由。

配置流程包含几个关键步骤:设置路由器及后端指向、部署更新后的 API 配置、发送标准请求。值得注意的技术限制是:同一个路由器引用的所有后端必须共享同一个 host(例如 aiplatform.googleapis.com),即路由只负责在同一主机上选择不同的模型和路径,不支持跨主机转发。

为什么重要

这一功能反映了大模型基础设施层正在经历的新变化:模型选择正在从“开发期的技术决策”变成“运行期的配置能力”。过去,应用要接入多家模型,通常需要自己维护多套 SDK、处理不同 API 格式差异,或者部署第三方开源代理来做转换。Google Cloud 把这层能力直接下沉到 API 网关中,意味着多模型调度开始标准化、平台化。

从竞争格局看,这也具有标志性意义。Google Cloud 并非只推广自家的 Gemini,而是把 Claude 和 OpenAI 模型同样纳入统一路由体系。这是一种“以基础设施赢生态”的思路:在模型混用越来越普遍的阶段,谁掌握流量入口,谁就在商业化上占据更主动的位置。同时,该方案选择兼容 OpenAI API 格式,也侧面印证了 OpenAI 的请求规范已成为当前 AI 应用接入的事实标准之一。

对用户/开发者/创作者的影响

对于正在开发 AI 应用的工程师来说,最直接的变化是集成成本降低。团队不需要为每个模型单独编写适配层,只需通过 API Gateway 配置路由规则,就能在应用侧用同一套 OpenAI 风格接口访问多个模型,适合快速 A/B 测试或根据任务难度分配不同档位的模型以控制成本。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对于技术决策者和企业架构师,这一功能提供了更灵活的模型治理手段。通过网关集中管理流量,可以在不修改上游应用的情况下调整模型路由策略,同时获得 token 用量追踪、速率限制等可观测和治理能力。不过需要留意:目前公开信息显示,路由发生在单一共享 host 内的 Google Cloud 模型后端之间,意味着在实际采用前,企业需要评估自身模型部署方式与这一架构限制的匹配程度。

值得关注的后续

目前该功能仍处于 Public Preview,有几个具体观察点值得跟踪:第一,正式商用(GA)的时间表以及按调用量或 token 计费的价格体系是否清晰,这会直接影响企业是否将其纳入生产环境;第二,路由器对模型选择的决策逻辑是否支持更精细的规则,例如按任务类型、成本预算或延迟要求自动分流;第三,AWS Bedrock、Azure AI Foundry 等同类平台是否会在模型路由的开放性和跨云兼容性上跟进,这将决定多模型网关是否会成为云厂商的标配能力。

来源:Google Developers Blog(RSS)

celebrityanime
celebrityanime
文章: 16919

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注