[Feature]: Add an official QwenCloud migration path for the existing DashScope provider

这不是一个会让现有调用直接报错的故障,而是 DashScope / Bailian / Alibaba Model Studio 品牌统一为千问 AI 平台(中国大陆)与 QwenCloud(中国大陆以外)后的迁移与别名对齐问题。排查重点不是修报错,而是确认 provider 名、 qwen_ai_

快速结论:这不是一个会让现有调用直接报错的故障,而是 DashScope / Bailian / Alibaba Model Studio 品牌统一为千问 AI 平台(中国大陆)与 QwenCloud(中国大陆以外)后的迁移与别名对齐问题。排查重点不是修报错,而是确认 provider 名、qwen_ai_platform/ 与 qwencloud/ 别名、DASHSCOPE_API_KEY、api_base 覆盖是否仍指向正确的区域网关。Issue 标题中的 [Feature]: Add an official QwenCloud migration path for the existing DashScope provider 是该迁移路径需求,并非运行时错误文本。

适用环境:LiteLLM Python SDK(litellm 包);Issue 中明确涉及的版本节点为 v1.104.0(千问 AI 平台重命名随 #42284 发布)与 v1.108.0(新网关默认值尚未对齐)。未提供操作系统、Python、CUDA、显卡信息。

最快修复方案:暂无确认的一步修复方案。Issue 结束时的状态是:区域别名已发布、千问 AI 平台重命名已随 v1.104.0 发布,但新网关默认 Base URL 与文档对齐仍属于后续工作。

注意事项:不要因为升级 LiteLLM 就期望调用自动切到新网关。Issue 明确要求保留显式 api_base、环境变量覆盖以及依赖旧默认值的调用方,因此升级本身不应重定向现有请求。各地域实际可用的模型与端点以对应平台文档为准,该 Issue 未逐一验证。

问题场景

用户在 LiteLLM 中通过 DashScope 系列 provider 接入通义千问等模型,涉及 chat、embedding、rerank、image generation,以及按量付费、Token Plan、Coding Plan 两类计费形态和两个区域环境。随着 Alibaba / Bailian / DashScope 品牌统一,新用户面对的是中国大陆的千问 AI 平台和大陆以外的 QwenCloud,但 LiteLLM 中原有的 dashscope/ 模型引用、环境变量与 provider ID 仍需继续可用,于是产生了“品牌与入口如何迁移而不破坏旧配置”的问题。

报错原文

[Feature]: Add an official QwenCloud migration path for the existing DashScope provider

原因分析

可能原因:LiteLLM 的 DashScope 实现是成熟集成,但用户可见的 provider 名称与文档仍停留在旧品牌;同时在 v1.108.0 源码中,新品牌 provider 的默认 Base URL 仍指向旧的阿里云 DashScope 主机——QWEN_AI_PLATFORM_API_BASE 为 https://dashscope.aliyuncs.com/compatible-mode/v1,QWENCLOUD_API_BASE 为 https://dashscope-intl.aliyuncs.com/compatible-mode/v1。因此是品牌、默认端点与文档尚未完全对齐,而不是既有 DashScope 请求失败。

环境排查

  • LiteLLM 版本:确认是否 ≥ v1.104.0(含千问 AI 平台重命名),以及是否为 v1.108.0(该版本默认 Base URL 尚未对齐新网关)。
  • 当前调用的 provider ID:是 dashscope/、qwen_ai_platform/ 还是 qwencloud/。
  • API Key 来源:是否仍依赖 DASHSCOPE_API_KEY,或已切换到对应平台的 Key。
  • 是否显式设置了 api_base 或 Base URL 环境变量;若有显式覆盖,请确认其值与目标区域一致。
  • 区域归属:中国大陆应使用千问 AI 平台,大陆以外应使用 QwenCloud,二者端点不同。

解决步骤

  1. 先确认现状而非改动:核对当前使用的 provider ID、Key 环境变量与 api_base,确保能定位请求实际发往哪个主机。
  2. 升级到包含区域别名与千问 AI 平台重命名的版本(v1.104.0 起,经 #42284 发布)。升级后旧 qwen_ai_platform/ 配置与环境变量应继续可用。
  3. 按区域选择入口:中国大陆用户使用千问 AI 平台相关入口,大陆以外用户使用 qwencloud/。Issue 中给出的新网关 OpenAI 兼容 Base URL 为:
    千问 AI 平台(中国大陆)https://maas.qianwenaiapi.com/compatible-mode/v1;
    QwenCloud(国际,新加坡)https://ap-southeast-1.maas.qwencloudapi.com/compatible-mode/v1。
    可优先尝试通过显式 api_base 或对应环境变量指向上述地址,直至版本默认值完成对齐。
  4. 保留兼容层:不要移除 dashscope 等既有 provider ID、API Key 环境变量和别名;旧网关仍可使用。
  5. 若涉及文档或默认值对齐,参考 Issue 中已发布的重命名记录 #42284,并关注后续关于新网关默认值与向后兼容的跟进项;该 Issue 未确认默认值修改的具体版本。

验证方法

用显式配置分别向千问 AI 平台与 QwenCloud 端点发起一次 chat 请求,确认返回正常;同时用原有的 dashscope/ 配置与 DASHSCOPE_API_KEY 再发一次请求,确认旧调用路径未被破坏。最后核对文档与 provider 标签中显示的品牌名是否为“千问 AI 平台”与“QwenCloud”,而非旧的 Alibaba / Bailian / DashScope 用户可见名称。

参考来源

BerriAI/litellm #36150

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 32530

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注