当你在没有安装 flash-linear-attention / causal-conv1d 等可选加速包的环境中，用 DataCollatorWithFlattening 做 packed（无 padding）训练或推理时，linear-attention 的 Torch fallback 会丢弃
这个报错通常出现在使用 Transformers 的 Whisper 生成流程、并开启时间戳处理（ return_timestamps=True ）时，如果 eos_token_id 被传成单元素列表（如 [50257] ）， WhisperTimeStampLogitsProcessor 会把它当
![[Bug]: Qwen3.5-35B-A3B merged SFT BF16 intermittently produces NaN logits and exclamation-only output on H20 (v0.19.1; HF control finite)](https://www.chat-gpts.plus/wp-content/uploads/2026/10/59381-d36a4086-768x403.jpg)
该问题出现在 vLLM 0.19.1 以 BF16 加载 Qwen3.5-35B-A3B（MoE + GDN）合并 SFT 权重做长输入生成时，偶发出现 NaN logits，并整段输出 token ID 0（渲染为连续英文感叹号）。优先排查点是 GDN prefill 内核与缓存路径是否触发了非有
这个报错通常出现在对多模态（含图片）提示词做左填充（left padding）后调用 generate 的场景，且当填充后的总长度满足 total_padded_length % 32 == 1 时触发。优先排查填充后总长度是否命中该条件，并对比同一序列在无填充与有填充下的 prefill logi
当你在 Transformers 中加载 AFMoE、Cohere2-MoE、HY-V3、Zaya 这类 MoE 模型并开启 output_router_logits=True 时，输出对象里会出现 aux_loss 字段，但它的值是 None 。这通常不是运行报错，而是输出类型与实际实现不一致导致
![[Bug]: HunYuan Dense V1 fails CUDA graph capture on v0.29 — HF dynamic RoPE does a host-side sync during capture](https://www.chat-gpts.plus/wp-content/uploads/2026/10/57890-0b89f014-768x403.jpg)
该报错通常出现在 vLLM 0.29 启动走 Transformers 后端的 dynamic RoPE 模型（如 HunYuan Dense V1 / HunYuan-MT2-7B）并启用 CUDA graph 捕获时；优先排查 RoPE 中的 host-side 同步，必要时先用 cudagra
这个报错通常出现在 Transformers 的 generate() 使用 cache_implementation="static" 时：如果输入张量留在 CPU（host-side），而模型已在加速设备（如 neuron:0）上，嵌套在 dict 里的 attention mask 张量不会被
这个报错通常出现在使用 DynamicCache(offloading=True) 加载混合 Gated-DeltaNet + attention 架构模型（如 Qwen3.8-27B）时，第二次 forward 复用缓存后 logits 出现远超 bf16 舍入误差的数值偏差，优先排查 offlo
![ValueError: The number of images in the text [2] and images [1] should be the same.](https://www.chat-gpts.plus/wp-content/uploads/2026/10/47217-a358ec78-768x403.jpg)
该报错通常出现在部分视觉语言（VL）模型上：当用户在文本里手动写入了模型的图像占位符（例如 ）时， apply_chat_template(..., tokenize=True) 会因为字符串匹配到两个占位符而抛错。优先排查用户文本中是否误写了占位符，并确认所使用处理器的占位符计数逻
该报错通常出现在使用 trust_remote_code=True 加载带有自定义代码的本地模型后，进行训练 checkpoint 保存/恢复（resume）时。优先检查 checkpoint 目录中是否保留了模型原始目录的自定义 .py 代码文件。