[Bug]: Databricks models outdated

该报错通常出现在使用 LiteLLM SDK 调用 Databricks 较新模型时,表现为模型价格缺失或价格不准确。优先排查 LiteLLM 版本是否为 v1.90.1 或更早,并确认模型定价数据是否已更新。

快速结论:该报错通常出现在使用 LiteLLM SDK 调用 Databricks 较新模型时,表现为模型价格缺失或价格不准确。优先排查 LiteLLM 版本是否为 v1.90.1 或更早,并确认模型定价数据是否已更新。

适用环境:LiteLLM Python SDK(litellm 包),版本 v1.90.1;Databricks 模型服务;不涉及操作系统、CUDA 或显卡。

最快修复方案:暂无确认的一步修复方案;官方已通过 PR #28501 修复定价缺口,更新到包含该修复的 LiteLLM 版本可解决问题。

注意事项:该修复针对 14 个端点的定价问题,并修正了 Opus 4.6 被按 Opus 4 费率计费的问题。若你使用的模型不在修复范围内,仍可能遇到价格缺失。

问题场景

用户在使用 LiteLLM Python SDK(版本 v1.90.1)调用 Databricks 上的较新模型时,发现模型价格缺失或价格数据过时。

报错原文

[Bug]: Databricks models outdated

原因分析

LiteLLM 内置的 Databricks 模型定价数据未及时更新,导致新增模型没有对应的价格记录,或部分模型价格有误。Issue 作者已提交 PR 补充相关成本数据,后续由官方 PR #28501 完成了完整修复。

环境排查

  • 确认 LiteLLM Python 包版本(Issue 中版本为 v1.90.1)。
  • 确认调用的 Databricks 模型名称是否为较新的模型(例如涉及 Opus 4.6 的模型)。
  • 检查 LiteLLM 的模型定价表中是否有对应模型的记录。

解决步骤

  1. 将 LiteLLM Python 包升级到包含 PR #28501 修复的版本(Issue 未明确给出具体版本号,可优先尝试升级到最新版本)。
  2. 升级后重新调用 Databricks 模型,确认价格数据是否正常返回。
  3. 如果升级后问题仍存在,请检查模型名称是否完全匹配 LiteLLM 定价表中定义的模型标识。

验证方法

升级 LiteLLM 后,重新执行之前无法获取价格的 Databricks 模型调用,确认返回结果中包含正确的价格信息,且 Opus 4.6 不再按 Opus 4 费率计费。

参考来源

BerriAI/litellm #31194

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 19086

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注