[Bug]: Databricks service_tier is dropped in request translation, streaming, and pricing
![[Bug]: Databricks service_tier is dropped in request translation, streaming, and pricing](https://www.chat-gpts.plus/wp-content/uploads/2026/10/41834-421ec28c-768x403.jpg)
在 LiteLLM 1.100.0 中调用 Databricks 模型并传入 service_tier="priority" 时,该字段会在请求翻译、参数过滤、流式聚合和计费环节被丢弃,导致 priority 费率未生效或返回层级丢失。优先排查 Databricks 的 supported para
![[Bug]: Databricks service_tier is dropped in request translation, streaming, and pricing](https://www.chat-gpts.plus/wp-content/uploads/2026/10/41834-421ec28c-768x403.jpg)
在 LiteLLM 1.100.0 中调用 Databricks 模型并传入 service_tier="priority" 时,该字段会在请求翻译、参数过滤、流式聚合和计费环节被丢弃,导致 priority 费率未生效或返回层级丢失。优先排查 Databricks 的 supported para

在 LiteLLM 使用 Vertex Gemini 显式缓存(explicit cache)时,如果出现 Gemini explicit cache creation drops lifecycle usage 和 spend callbacks omit creation and storage

Hugging Face 论文页 2026 年 10 月 7 日收录的 VIS-Ground,尝试解决交互式视频生成中“观众干预后,模型该依据哪些上下文继续生成”的问题,把异构输入转为可执行的生成约束。

这个报错通常出现在使用带 --api-key-file (API Key 鉴权)的 llama-server 并访问内置 WebUI 时:前端静态资源被错误地纳入 API Key 校验,导致页面白屏、控制台报 Unauthorized: Invalid API Key 。优先排查是否使用了 API

这个报错通常出现在 llama-server 以 embedding 模式(如 embeddinggemma / gemma-embedding2 模型)加载时,`--parallel`(即 `n_seq_max`)被设置为非 2 的幂,导致内部矩阵乘法形状不匹配并触发断言。优先排查并调整 `--p

这个 Float16 issue 通常会出现在 Faster Whisper 调用 CTranslate2 加载模型时,程序把权重推断为 float16,但当前 GPU/后端不支持高效的 float16 计算。优先排查显卡是否具备 Tensor Cores,以及 transcribe 时指定的 co

最新论文测试在指令微调或继续预训练后,仅调整模型最终预测的词汇偏置和温度能否挽回"遗忘"的网页文本预测能力,结果显示大部分损失无法通过这种无上下文修正恢复,最高仅约36%,且合成随机损伤实验也能达到29%恢复,说明表面修正不等于根因修复。

alphaXiv 发布综述论文,将大模型系统的异常检测划分为“边界建模”和“对齐检测”两种思路,后者主张对照当前请求的 SLO、用户意图和安全要求来判断异常,而非只比对历史运行模式。

一项预注册实验发现,把与真事实高度相似的假事实移入或移出语言模型的局部注意力窗口,模型误信概率并未在窗口边界发生跳变;省显存的滑窗混合架构整体上更易被迷惑,但原因不是窗口边界本身。

论文提出把用户在内容平台上的真实行为当成监督信号,用10万用户匿名行为数据构建训练任务。在论文测试条件下,微调Qwen3.6-35B-A3B后,用户相关任务评测提升最高达11.5分。