分类: AI 工具排错

[Bug]: Incorrect TPM limiting for virtual keys

[Bug]: Incorrect TPM limiting for virtual keys

这个报错通常出现在 LiteLLM Proxy 给虚拟 Key 同时配置了 TPM 与 RPM 限流时,实际限流触发点明显低于配置值(如配置 500k TPM,实际在 300k–350k 触发),并伴随 2–5 分钟的冷却期。优先检查虚拟 Key 是否同时设置了 RPM 和 TPM,以及代理版本是否