Flash/Sage varlen does not work with torch.compile

这个报错通常出现在你对 Diffusers 的 Flux 等模型使用 torch.compile ,同时又启用了 Flash/Sage 的 varlen(变长)注意力后端时。优先排查是否用了 varlen API,以及能否切换到 static-length(定长)API 或使用定长序列推理。

这个报错通常出现在你对 Diffusers 的 Flux 等模型使用 torch.compile ,同时又启用了 Flash/Sage 的 varlen(变长)注意力后端时。优先排查是否用了 varlen API,以及能否切换到 static-length(定长)API 或使用定长序列推理。

这个问题通常出现在用 vLLM 加载 Aria 的 MoE 专家权重时——checkpoint 里的专家名是 experts.fc1.weight / experts.fc2.weight ,但 vLLM 的融合专家加载器却去查询 w13_weight.weight / w2_weight.weig

这个报错通常出现在导入 Transformers 时,当前安装的 huggingface_hub 版本与 transformers 版本不匹配,导致 transformers 尝试从 huggingface_hub 导入 is_offline_mode 失败。优先排查两个包的版本组合,而不是先改代码
![[Bug]: assistant_tokens_mask misaligned after multimodal placeholder expansion](https://www.chat-gpts.plus/wp-content/uploads/2026/09/57223-39345890-768x403.jpg)
当你在 vLLM 中开启 return_assistant_tokens_mask=True ,并且 prompt 里带有多模态占位符(audio / image / video)时,占位符展开后 assistant_tokens_mask 的条目数少于 token 数,导致第 9 位之后的 mas

当输入音频波形里出现哪怕一个非有限值(NaN/Inf),部分音频特征提取器会因对整个波形统计量做归一化,把全矩阵变成 NaN,而 ASR pipeline 仍会静默输出形如 '0' 的转写结果,不报错也不警告。优先排查数据管线里是否混入了损坏样本,并确认所用 checkpoint 的特征提取配置是否
![RuntimeError: The shape of the mask [1, 9476] at index 1 does not match the shape of the indexed tensor [1, 9477, 3584] at index 1](https://www.chat-gpts.plus/wp-content/uploads/2026/09/48835-104181fb-768x403.jpg)
这个报错通常出现在用 VibeVoice-ASR 转写较长音频(24 kHz 采样下超过约 11.65 分钟、即样本数超过 2**24)时,processor 与 model 对音频占位 token 数量的浮点计算精度不一致,导致 mask 与特征张量形状对不上;优先排查输入音频长度是否是 hop(

当你在 Transformers 中同时加载 CLIPTokenizer 与 CLIPTokenizerFast (模型 openai/clip-vit-base-patch32 )并对比同一段文本的 token 时,二者输出不一致,通常表现为 fast 版本多出 Ġ 或把 1 这类单字符数字拆得与

这个报错通常发生在用 AutoProcessor.from_pretrained() / AutoImageProcessor.from_pretrained() 加载 qwen3_5 / qwen3_vl 系列(如 Qwen3.8-27B)检查点时,内部映射指向了从未随版本发布的 Qwen3VLI

这个报错通常发生在手动创建 StaticCache / EncoderDecoderCache 并在 generate() 外部复用、但 cache 的 batch size 或 encoder 序列长度与当前输入不一致的场景。优先排查是否把 cache 初始化成了“精确尺寸”,而不是“大于等于实际

这个报错通常出现在用 TorchAoConfig 包裹 FqnToConfig 并对 Diffusers 模型(例如 Flux2Transformer2DModel)做量化加载时。根本原因是 Diffusers 在调用 torchao 的 quantize_ 时同时传入了自定义 filter_fn