celebrityanime

加入于: 2026年 4月 1日
文章: 29733

AI 工具排错

Eval bug: Nemotron 3.5 Bolt 74B-A9B segfaults on Metal in ggml_metal_op_mul_mat_id

在 Apple Silicon 上通过 Metal 运行 Nemotron 3.5 Bolt 74B-A9B（IQ2_XXS）时，只要发出第一个对话请求、进入 prompt processing，进程就可能在该路径崩溃，报错为 Eval bug: Nemotron 3.5 Bolt 74B-A9B

celebrityanime
2026年 10月 20日

AI 工具排错

Ideogram4: allow the text conditioning projection to be hoisted out of the denoising loop

当你在 diffusers 中用 Ideogram4Transformer2DModel 跑 Ideogram 4 推理（尤其 1024² 以上、启用 bitsandbytes 4 bit 量化的 llm_cond_proj ）时，每个去噪步都会重复对固定的 encoder_hidden_state

celebrityanime
2026年 10月 20日

AI 工具排错

[CI Failure]: Multimodal Processor shards – test_tensor_schema[naver-hyperclovax/HyperCLOVAX-SEED-Think-32B] – upstream model_type hyperclov

该报错出现在 vLLM 多模态处理测试（Multimodal Processor shard）加载 Hugging Face 模型 naver-hyperclovax/HyperCLOVAX-SEED-Think-32B 时。上游仓库把 model_type 改成了 CI 镜像里的 transfor

celebrityanime
2026年 10月 20日

AI 工具排错

[CI Failure]: (MI355) Core Operation Kernels Shard 1: kernels/test_concat_mla_q.py::test_concat_mla_q_fp8_nope_and_rope

该 CI 失败只出现在 ROCm（MI355）的 Core Operation Kernels Shard 1 上，跑 kernels/test_concat_mla_q.py::test_concat_mla_q_fp8_nope_and_rope 相关用例时报 IndexError: tuple

celebrityanime
2026年 10月 20日

AI 工具排错

RuntimeError: mha_varlen_fwd, /workspace/.deps/vllm-flash-attn-src/csrc/flash_attn/flash_api.cpp:601, query and key must have the same dtype

该报错通常出现在 bf16 模型上同时指定 quantization="fp8" 与 kv_cache_dtype="float16" 时，vLLM 启动阶段 FlashAttention 发现 query 与 key 的 dtype 不一致而中止。优先排查 KV cache dtype 是否与模型

celebrityanime
2026年 10月 20日

AI 工具排错

issue: v0.12.0: Some browser tabs enter an endless reinitialise loop (~10/s), `Session not found` on every socket `user_join`, saturating se

该问题通常出现在 Open WebUI v0.12.0 使用 Docker 部署、存在多个浏览器标签页时：部分标签页以约 10 次/秒的频率重复执行应用初始化流程，同时 socket 的 user_join 处理程序持续抛出 Session not found ，最终占满 CPU 与数据库连接池。优

celebrityanime
2026年 10月 20日

AI 工具排错

issue: memories injected without relevance selection, and auto-truncated mid-memory

该问题通常出现在 Open WebUI 已积累较多 user 类型记忆、且注入时触发 memories.user_char_limit （默认 2000 字符）上限的场景；优先检查 add_memory_context 对 user 记忆的拼接与截断逻辑，以及记忆库总量是否已无界增长。

celebrityanime
2026年 10月 20日

AI 工具排错

issue: Scrolling up jumps around in a conversation/chat

该问题（issue: Scrolling up jumps around in a conversation/chat）通常出现在 Open WebUI v0.9.x 中查看包含长消息或大量消息的会话时，向上滚动会来回跳动，并伴随 Firefox 的 scroll anchoring 警告。优先排查