快速结论:在 LiteLLM v1.82.3 上通过 WebRTC 调用 Azure OpenAI gpt-realtime 时,推理(音频流、响应)正常,但成本不记录并出现 “Cost tracking failed for model=gpt-realtime”。优先确认你走的是 WebRTC 流程还是 WebSocket 代理流程,因为旧版本对 WebRTC 缺少用量信号,属于架构性缺口而非配置错误。
适用环境:LiteLLM v1.82.3;模型 Azure OpenAI gpt-realtime;调用方式为 WebRTC(/v1/realtime/client_secrets 签发临时 token,/v1/realtime/calls 转发 SDP offer)。Issue 未提供操作系统、Python、CUDA、显卡等信息。
最快修复方案:升级到包含 PR #53282 的 LiteLLM 版本,该 PR 已合并并修复 OpenAI 与 Azure 的 WebRTC 成本追踪。Issue 中未注明具体版本号,请以 PR #53282 合入所在版本为准。
注意事项:升级前请确认目标版本确实包含 #53282,不要仅凭发布日期推断。若仍在使用 WebSocket 代理路径,WebRTC 修复不改变原有 WebSocket 成本计算逻辑;#30069、#31087 只涉及 WebSocket 侧的实时成本,不解决 WebRTC 无用量信号的问题。此外,Azure URL 相关问题(#24659)与本次成本追踪问题相互独立。
问题场景
用户在 LiteLLM 代理下使用 Azure OpenAI gpt-realtime 模型,通过 WebRTC 建立实时会话。推理链路本身工作正常(音频流传输、模型响应均可用),但后端没有生成任何成本日志,并输出成本计算失败的错误。Issue 评论中还提到,UI 上只统计到约 99 个请求,而终端用户报告了约 6000 个请求,说明此类实时请求未被正确计量。
报错原文
_Cost tracking failed for model=gpt-realtime_
原因分析
LiteLLM 的实时成本计算由 handle_realtime_stream_cost_calculation(litellm/cost_calculator.py:2522)负责,它通过解析实时事件流中的 response.done 事件获取用量。这种方式要求 LiteLLM 处于连接中间,能转发并观察到每一帧事件,WebSocket 实时代理正是如此,因此 WebSocket 流程可以计算成本。
WebRTC 流程不同:代理只负责签发临时 token(/v1/realtime/client_secrets)并转发一次性的 SDP offer(/v1/realtime/calls),之后音频和 oai-events 数据通道在客户端与 Azure/OpenAI 之间点对点传输。代理不在媒体和事件路径上,看不到 session.created 或 response.done,也就没有可计费的 usage 对象。proxy_realtime_calls 在设计上不做成功日志和用量日志,转发 SDP answer 后即返回。因此 WebRTC 场景下成本是“缺失”而非“算错”,与报错信息一致。要支持 WebRTC 计费,需要不同于 WebSocket 流解析器的机制,例如带外消费提供方的用量或计费事件。
环境排查
- 确认 LiteLLM 版本是否为 v1.82.3,或是否低于包含 PR #53282 的版本。
- 确认调用路径:使用
/v1/realtime/client_secrets+/v1/realtime/calls的 WebRTC 流程,还是经过代理转发的 WebSocket 实时流程。 - 确认模型为 Azure OpenAI gpt-realtime,并核对 Azure 端点 URL 是否正确(Azure URL 问题见 #24659,与本问题独立)。
- 检查后端日志中是否出现上述成本追踪失败信息,以及 UI 请求数是否明显低于实际请求量。
- Issue 未涉及 Python、CUDA、PyTorch、显卡等依赖版本,无需据此排查。
解决步骤
- 先记录当前 LiteLLM 版本及调用方式(WebRTC 或 WebSocket),复现一次实时会话并抓取后端日志中的成本追踪错误。
- 若确认是 WebRTC 流程且版本低于包含 PR #53282 的版本,升级 LiteLLM 到包含该 PR 的版本(该 PR 已合并,修复 OpenAI 和 Azure 的 WebRTC 成本追踪)。
- 升级后重启 LiteLLM 服务,并使用相同的 Azure gpt-realtime WebRTC 调用再做一次会话测试。
- 若无法立即升级,可优先尝试将实时调用改为经过 LiteLLM 代理的 WebSocket 实时流程,因为该路径下代理能观察到事件流中的 usage 信息;此方案基于 Issue 中的架构说明,未在 WebRTC 客户端侧验证,属于可优先尝试的替代方案。
- 若仍无成本数据,单独排查 Azure 端点 URL 等配置问题(参考 #24659),再确认是否命中 #31087 提到的 model_cost 缺失或自定义定价被忽略的情况。
验证方法
完成一次实时会话后,检查后端日志中不再出现 “Cost tracking failed for model=gpt-realtime”,并且成本相关日志有实际数值;同时在 UI 或用量接口中确认该会话的请求数与成本被计入,而不是只看到远低于实际量的请求总数。
参考来源
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
这个方案解决了吗?
可以继续搜索完整报错,或查看同一工具的其他排查指南。
![[bug]: makeHrefToId returns the base path as a page id for the homepage link under a deployment base](https://www.chat-gpts.plus/wp-content/uploads/2026/11/10255-a795918a-768x403.jpg)

