微软 AI Gateway 新层级引热议:统一治理背后的权限隐忧

微软推出了 Azure API Management 的专用 AI Gateway 层公开预览版,把模型、工具和 MCP 服务器的发布与治理统一到一个网关里。它解决多云模型接入和成本管控的痛点,但密钥作用域过宽、无 SLA 以及与既有网关如何共存等问题,仍需谨慎评估。

一句话看懂:微软推出了 Azure API Management 的专用 AI Gateway 层公开预览版,把模型、工具和 MCP 服务器的发布与治理统一到一个网关里。它解决多云模型接入和成本管控的痛点,但密钥作用域过宽、无 SLA 以及与既有网关如何共存等问题,仍需谨慎评估。

事件核心:发生了什么

微软近日发布了 Azure API Management 专属 AI Gateway 层的公开预览版,与过去在 API 管理网关上叠加 AI 策略的做法不同,这是一个独立资源,控制平面直接围绕模型、MCP 服务器和工具来组织。团队可以发布托管在 Azure Foundry 的 OpenAI、Anthropic、Mistral 模型,也能接入 AWS Bedrock、Google Vertex AI 和 OpenAI 直接提供的模型;所有兼容 OpenAI 协议的提供商共用一个端点,按 model 字段精确匹配路由,Anthropic 则通过自定义提供商透传 Messages API。

策略配置从 XML 换成了门户卡片,涵盖令牌限制、配额、内容安全和模型故障转移。网关预配约一分钟,无需规划扩展单元,遥测以 OpenTelemetry 格式导出到 Application Insights、Datadog、Grafana 等目标。工具侧支持远程 MCP 服务器、OpenAPI 规范和一千多个内连接器,认证方式可选不认证、API 密钥、OAuth 2.0 或托管身份。该预览版目前在美国东部 2 和瑞典中部提供,免费使用,但无 SLA,API、遥测和定价在正式发布前都可能调整。

为什么重要

核心信号是:企业 AI 接入正从单一提供商走向多提供商默认配置。AI Gateway 层把模型发布、路由、令牌计量、成本控制和工具认证收敛到平台团队手中,应用团队通过控制台自助取用,不必为每个应用单独打补丁。AI 工程师 Paolo Perrone 的评价点出了关键价值:大多数团队事故后才会补上速率限制和支出追踪,集中治理让成本控制变成平台能力,而非应用各自为政。

但争议也集中在此。企业 AI 架构师 Adolph White Jr. 提出一个尖锐问题:智能体运行未正常结束时,已产出的成果是否保留供审计,网关会不会故障转移重试——这是“治理 AI 流量”和“治理完整生命周期”之间的差别。此外,运行时访问密钥的作用域是整个网关,一旦泄露可访问全部模型和工具,而非单个应用,这比 APIM 订阅按 API 范围隔离的模型弱。Sreenivasulu Kandakuru 认为 Azure 落后于 AWS 和 Databricks,后者 6 月发布的 Unity AI Gateway 已提供硬性支出上限和智能路由,不过微软已有的 AI 网关功能并未拉开明显差距。

对用户/开发者/创作者的影响

平台工程师和架构师将获得统一的多云模型管理面板,模型发布、故障转移和内容安全策略可以在一个界面完成,不必为每个云服务的 API 网关分别配置。应用开发者受益于自助式测试台和工具目录,但要注意密钥管理策略:每个应用使用独立密钥仍无法隔离爆炸半径,泄露即网关级风险。对正在使用 Premium 或 Standard v2 层 AI 网关的团队,目前没有公开说明既有投入是继承、并行还是迁移,暂不建议基于预览版重构生产环境。AI 应用调用方应关注配额上限和定价细节尚未公布的事实,成本治理是目前论据中最不确定的部分。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

首先,预览版配额具体数字和正式定价何时公布,直接决定成本治理论证是否成立。其次,与现有 APIM 网关的共存方案需要微软明确回应——已采用旧版 AI 网关功能的团队如何迁移,目前公开信息显示没有答案。第三,智能体输出审计和重试是否纳入网关职责,涉及网关与上层编排层之间的架构边界,这是行业对 AI 治理从流量层延伸到生命周期层的关键观察点。

来源:InfoQ CN

celebrityanime
celebrityanime
文章: 18287

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注