![[Bug]: `litellm_settings.max_budget` ignores `budget_duration`; global proxy budget is a hardcoded trailing-30-day cap](https://www.chat-gpts.plus/wp-content/uploads/2026/07/31292-3ad334c3-768x403.jpg)
在 LiteLLM 代理中设置 litellm_settings.max_budget 并指定 budget_duration 后， budget_duration 被忽略，全局预算实际按硬编码的过去 30 天滚动总花费生效，导致配置的每日/每周上限不重置。优先检查是否将 max_budget 与
用户在 NVIDIA GB10（ARM 架构）上运行 vLLM，使用 --convert embed 启动 Qwen3MoE 模型进行嵌入（embedding）推理时触发此错误。用户环境为 nvcr.io/nvidia/vllm:26.01 容器。
![[RFC]: Hidden States Extraction](https://www.chat-gpts.plus/wp-content/uploads/2026/07/33118-296a083d-768x403.jpg)
用户在使用 vLLM 进行模型推理时，需要获取中间层的隐藏状态（hidden states）用于以下目的：
用户在 Node.js（v20.13.1）环境中使用 @gradio/client 库（版本 1.5.1）通过 Client.connect() 方法连接 Hugging Face Space 模型，同时提供了 hf_token 。相同配置在 Python 环境下可以正常工作。用户还指出在 Java
用户使用 vLLM 0.11.1rc6 加载 Qwen3-VL-2B-Instruct 多模态模型，设置 --dtype float16 和 --max-model-len 2048 ，在 AMD RX 7800 XT (gfx1101) 上启动时触发 OOM。即使已安装 flash_attn==2
用户在 Open WebUI 的 dev 分支（截至 2026-07 月）中，以管理员身份打开 Settings → Analytics 标签页时，如果已有较大体量的分析历史数据（例如多年的数据），并且选择 All time 时间范围，则会出现表格和图表渲染超出模态框右侧边界、无水平滚动条、内容被页
用户在 transformers 5.0.0.dev0（安装自 main 分支）中使用 AutoModelForCausalLM 配合 BitsAndBytesConfig 加载 4-bit 量化模型时，遇到 OOM。相同配置在 transformers 4.48 上可正常加载（约 9GB 显存），
用户使用 Transformers 5.13.0.dev0 从预训练加载 Qwen/Qwen3-30B-A3B 模型，设置了 `device_map="auto"` 并指定 `offload_folder`（磁盘卸载路径）。加载后调用 `model.save_pretrained("save_pat
在ComfyUI中使用 Load CLIP节点 加载CLIP模型进行文本编码时，尽管节点设备选项已设为“default”，但ComfyUI仍然将CLIP/text encoder模型强制加载到CPU上运行，导致编码极慢。该问题在加载WanTEModel等视觉语言模型时也会出现。日志中明确显示 CLI
用户在使用 Langfuse Cloud（自述环境为 Langfuse Cloud，Python SDK v4）时，配置了一个数值型 LLM-as-a-judge evaluator（评分范围 1–5），该 evaluator 在传入的观测数据上运行。用户观察到 Evaluator runs 视图中