ValueError: Unknown partner model: zai-org/glm-4.7-maas: Vertex AI partner models (GLM-4.7, Moonshot Kimi, etc.) are not recognized by LiteLLM’s model registry. When unrecognized, requests are

用户在使用 LiteLLM 代理调用 Vertex AI 合作伙伴模型(如 GLM-4.7,模型 ID 为 zai-org/glm-4.7-maas )时,LiteLLM 返回 ValueError: Unknown partner model ,导致请求失败。

ValueError: Unknown partner model: zai-org/glm-4.7-maas: Vertex AI partner models (GLM-4.7, Moonshot Kimi, etc.) are not recognized by LiteLLM's model registry. When unrecognized, requests are

ValueError: Unknown partner model: zai-org/glm-4.7-maas: Vertex AI partner models (GLM-4.7, Moonshot Kimi, etc.) are not recognized by LiteLLM’s model registry. When unrecognized, requests are

快速结论:该报错发生在 LiteLLM 代理无法识别 Vertex AI 合作伙伴模型(如 GLM-4.7、Moonshot Kimi)时。优先排查模型名称是否在 LiteLLM 的模型注册表中,以及请求是否被错误地当作透传(pass-through)请求处理。

问题场景

用户在使用 LiteLLM 代理调用 Vertex AI 合作伙伴模型(如 GLM-4.7,模型 ID 为 zai-org/glm-4.7-maas)时,LiteLLM 返回 ValueError: Unknown partner model,导致请求失败。

报错原文

ValueError: Unknown partner model: zai-org/glm-4.7-maas: Vertex AI partner models (GLM-4.7, Moonshot Kimi, etc.) are not recognized by LiteLLM's model registry. When unrecognized, requests are

原因分析

LiteLLM 的模型注册表(model registry)尚未内置对 Vertex AI 合作伙伴模型(如 GLM-4.7、Moonshot Kimi)的支持。当请求中使用这些未被注册的模型时,LiteLLM 无法正确路由请求,导致报错。该行为明确指向模型注册表缺失的问题,用户可能无法通过简单的配置调整绕过。

环境排查

  • LiteLLM 版本(建议检查是否为最新版,确认是否已添加对 Vertex AI 合作伙伴模型的支持)。
  • 模型配置:确认 config.yaml 中模型名称是否与注册表一致,或是否使用了自定义模型映射。
  • Python 版本(不影响本问题,但需确认环境一致性)。

解决步骤

  1. 等待修复:由于 Issue 被标记为“稳定化”目标的一部分,目前此问题可能尚未解决。预计 LiteLLM 团队将在后续版本中完善对 Vertex AI 合作伙伴模型的注册支持。
  2. 可优先尝试:在 config.yaml 中手动添加自定义模型映射,例如:
    model_list:
          - model_name: zai-org/glm-4.7-maas
            litellm_params:
              model: zai-org/glm-4.7-maas
            # 如果支持,添加 provider 参数指定为 vertex_ai
      
  3. 作为备选:如果以上方法无法解决,考虑将模型请求直接发送到 Vertex AI 端点,绕过 LiteLLM 的模型注册表检查。

验证方法

使用修复后的配置重新发起请求,确认不再出现 ValueError: Unknown partner model 错误。如果恢复正常,则问题已解决。

参考来源

BerriAI/litellm #24825

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

celebrityanime
celebrityanime
文章: 9832

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注