RuntimeError: cutlass_fp16_linear: K mismatch”, and it seems to be the SwarmUIKSampler node that is where the error happens when importing it to the comfyui tab.

该报错通常出现在 SwarmUI 中通过 GGUF 格式加载 Wan2.2 视频模型并执行采样(SwarmUIKSampler)时,相关节点转发给 ComfyUI 后触发。优先排查“GPU 特定优化设置”与 GGUF 加载兼容性,而非模型文件本身。

快速结论:该报错通常出现在 SwarmUI 中通过 GGUF 格式加载 Wan2.2 视频模型并执行采样(SwarmUIKSampler)时,相关节点转发给 ComfyUI 后触发。优先排查“GPU 特定优化设置”与 GGUF 加载兼容性,而非模型文件本身。

适用环境:Issue 已确认的环境为 SwarmUI(报告者提到 v0.9.8.4)、NVIDIA RTX 5080 或 RTX 5060 Ti 显卡、AMD 9800X3D CPU、32 GB 内存;使用 Wan2.2 GGUF 模型经 SwarmUIKSampler 节点执行。Python、CUDA、PyTorch 具体版本 Issue 中未给出。

最快修复方案:可优先尝试关闭服务端设置 AllowGpuSpecificOptimizations,Issue 中有用户在 SwarmUI v0.9.8.4 + RTX 5060 Ti 上确认此举可修复 Wan 2.2 GGUF 的 “cutlass_fp16_linear: K mismatch”。若无效,改用非 GGUF 格式的 Wan2.2 模型已被确认可正常工作。

注意事项:关闭 GPU 特定优化可能影响其他模型的性能或显存表现,属于规避手段而非根本修复。GGUF 在 ComfyUI 生态中已基本处于弃用/历史状态,维护者建议迁移到 int8、nvfp4 等现代格式;该方案未在多显卡型号上逐一验证。

问题场景

用户在 SwarmUI 中使用 Wan2.2 的 GGUF 量化模型(日志中为 Wan/DasiwaWAN22I2V14BLightspeed_snatchkissHighV11.gguf)生成视频,模型加载和文本编码阶段正常,进入采样阶段后报错。报错位置指向 SwarmUIKSampler 节点把任务导入 ComfyUI tab 时。用户表示几天前同样参数可以正常生成,且全新安装后依旧复现,因此可排除单次配置损坏。

报错原文

RuntimeError: cutlass_fp16_linear: K mismatch

原因分析

维护者的判断是:根因很可能在 ComfyUI 一侧。ComfyUI 持续更新代码,但不再顾及旧 GGUF 扩展的工作方式,因为 GGUF 已被视为不再相关的格式。也就是说,Wan2.2 GGUF 模型在较新的 ComfyUI/后端环境下,其线性层权重形状或量化布局与 cutlass fp16 线性算子预期不再匹配,从而在采样阶段抛出 K mismatch。

这与日志特征一致:GGUF 模型和文本编码器均能加载,错误发生在请求加载 WAN21 并进入采样之后。另一个可能因素是 SwarmUI 的 GPU 特定优化路径(AllowGpuSpecificOptimizations)在新显卡上启用了与该 GGUF 权重不兼容的算子选择,关闭后即可绕过。

环境排查

  • 确认 SwarmUI 版本(Issue 中确认可用的规避环境为 v0.9.8.4)。
  • 确认显卡型号,Issue 涉及 RTX 5080 与 RTX 5060 Ti;其他显卡未验证。
  • 确认使用的模型格式:GGUF 相比非 GGUF 更容易触发该问题。
  • 确认 AllowGpuSpecificOptimizations 服务端设置当前是否开启。
  • 确认 ComfyUI 后端及 ComfyUI-GGUF 扩展版本,Issue 未给出具体可用/不可用版本号,不做推断。
  • Python、CUDA、PyTorch 版本 Issue 中未提供,无法据此判断兼容性。

解决步骤

  1. 可优先尝试:在 SwarmUI 服务端设置中关闭 AllowGpuSpecificOptimizations,重启后端后重新用同一 Wan2.2 GGUF 模型和参数生成。这是 Issue 中唯一被明确验证能修复 “cutlass_fp16_linear: K mismatch” 的操作。
  2. 若上述设置无效,改用非 GGUF 格式的同一 Wan2.2 模型变体。报告者确认非 GGUF 版本的 Wan2.2 模型工作正常。
  3. 考虑迁移到维护者推荐的现代高效格式(int8、nvfp4 等),在新模型(如 MiniMax H3)上使用;维护者明确建议不要继续依赖 GGUF。
  4. 如仍希望继续使用 GGUF,可到 city96/ComfyUI-GGUF 仓库的 Issues 中查找是否有针对当前 ComfyUI 版本的适配进展;Issue 中没有给出具体修复方法,不提供未经验证的操作。

验证方法

用与报错时相同的 Wan2.2 GGUF 模型、相同采样参数重新提交一次生成:若能顺利完成采样并输出视频,且日志中不再出现 RuntimeError: cutlass_fp16_linear: K mismatch,即视为规避成功。若改用非 GGUF 模型,则以生成正常完成作为验证标准。

参考来源

mcmonkeyprojects/SwarmUI #1544

city96/ComfyUI-GGUF Issues

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 31011

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注