分类： AI 工具排错

AI 工具排错

[Bug][ROCm]: AITER FP8 BMM segfaults with data parallel attention

该报错通常出现在 vLLM 使用 ROCm 平台 + AITER FP8 MoE 后端运行 DeepSeek V3，并同时开启 TP8 + 数据并行注意力（DPA）时；优先排查是否使用了足够新的 vLLM ROCm nightly 镜像，旧版本中 AITER FP8 BMM 预编译内核可能触发段错误

celebrityanime
2026年 9月 1日

AI 工具排错

RuntimeError: Process RustFrontend (PID: 740) died with exit code 2

该报错通常出现在启用 Rust 前端（ VLLM_USE_RUST_FRONTEND=1 ）的 vLLM 0.22.0 环境中，优先排查 Rust 前端子进程自身的启动日志，以及当前版本是否包含已知的 Rust 前端兼容性问题。

celebrityanime
2026年 9月 1日

AI 工具排错

RuntimeError: Process RustFrontend (PID: 740) died with exit code 2

celebrityanime
2026年 9月 1日

AI 工具排错

docs: list langchain-truthbear in integrations (official-source signal tools)

该问题发生在 LangChain 文档中缺少对 langchain-truthbear 第三方集成包的收录列表。优先排查方向是确认该包在 PyPI 上的发布状态，并按外部工具集成（external tool integration）的方式提交文档 PR。

celebrityanime
2026年 9月 1日

AI 工具排错

FineGrainedFP8 DeepGEMM path returns silently wrong results on SM100 (UE8M0 scale rounding without requantization)

在 NVIDIA B200（SM100）上使用 FineGrainedFP8 模型（如 Qwen/Qwen3-4B-FP8）时，DeepGEMM 的 SM100 内核路径会静默返回错误结果。优先设置环境变量 TRANSFORMERS_DISABLE_DEEPGEMM_LINEAR=1 回退到 Tri

celebrityanime
2026年 9月 1日

AI 工具排错

Gemma-4-E4B: the PLE table holds ~5.6 GB of VRAM that can live on CPU bit-identically – is there a supported device_map path?

该问题发生在加载 google/gemma-4-E4B-it 模型时，模型内部的 per-layer embedding（PLE）表占用大量显存。优先排查方向是：在 from_pretrained 时是否使用了细粒度（per-module）的 device_map 字典，而不是只把顶层模块指定为 "

celebrityanime
2026年 9月 1日

AI 工具排错

MTP: `test_generate_with_mtp` skips for every checkpoint but Inkling, and `MtpModel.forward` raises with the default `logits_processor=None`

这个报错发生在 Transformers 的 MTP（Multi-Token Prediction）生成测试中：`test_generate_with_mtp` 会因为正则匹配错误跳过除 Inkling 外的所有模型，同时直接构造 `MtpModel` 时默认 `logits_processor=N