分类: AI 工具排错

Eval bug: Qwen 3.5 weird behavior…

Eval bug: Qwen 3.5 weird behavior...

该问题通常出现在 llama.cpp 使用 CUDA 后端、通过 Docker 同时挂载多块 NVIDIA GPU 运行 Qwen 3.5 GGUF 模型时,即使将 temperature 设为 0,输出也可能变成一串 /////// 或 ??????? ,并且结果不稳定;优先排查多 GPU 切分与

Support for Sarvam Chat Model Integration

Support for Sarvam Chat Model Integration

这个“报错”本身并不是运行失败,而是开发者在 LangChain 中找不到 Sarvam AI 官方 ChatModel 集成而提交的功能请求(“Support for Sarvam Chat Model Integration”)。如果你在 LangChain 中调用 Sarvam 模型失败,优先

Bug in modeling_bart.eager_attention_forward

Bug in modeling_bart.eager_attention_forward

这个报错通常出现在把 BART 系列模型(如 facebook/bart-base)的注意力实现从默认的 SDPA 切换为 eager 之后,eager_attention_forward 直接把 2D/不匹配的 attention_mask 加到注意力权重上导致形状不匹配或结果异常。优先排查当前