快速结论:在 ComfyUI 中运行 MiniMax Music3 默认工作流时,若 MiniMaxMusic3TextEncode 节点的文本编码器被放到 CPU 上执行,而 comfy_kitchen 的 Flash Attention 可用性检测仍调用 torch.cuda.get_device_capability(device),就会抛出 ImportError: No module named 'triton' 一类的启动期或依赖期错误并伴随 ValueError: Expected a cuda device, but got: cpu。优先排查该节点的设备分配与 Flash Attention 检测分支,而不是先怀疑显存总量。
适用环境:Issue 已确认:ComfyUI(v0.33.1 / 72865f4f),Windows 11,NVIDIA GeForce GTX 1660 SUPER(6 GB,Turing),另有一例 RTX PRO 2000 Blackwell 8 GB(sm_120,torch 2.13.0+cu130)。Python 版本未在 Issue 中明确给出。
最快修复方案:暂无确认的一步修复方案。Issue 中已验证的临时做法是给 comfy_kitchen/flash_attention.py 的 is_available() 加一行设备类型判断:当传入设备不是 CUDA 时直接返回 False,使其走已有的普通 KV cache 回退路径;报告者在本地验证加了该判断后 CPU 路径可以完成生成。
注意事项:这是源码级临时补丁,不是官方发布修复,升级 ComfyUI 后可能被覆盖,需重新确认。加守卫后问题从“直接崩溃”变为“可运行但极慢”:报告者实测该 AR 文本编码器 CPU 推理约 25 秒/token,30 秒音频预计约 5 小时;同一机器上改用 GPU 上的 w4a8 文本编码器处理同样 30 秒音频约 8 分 43 秒。8 GB 级显卡的实用方向是使用更小的量化文本编码器。启动参数 --cuda-device 0 不改变设备放置,--lowvram 反而更可能触发该路径。
问题场景
用户在 Windows 11、GTX 1660 SUPER(6 GB 显存)上运行 ComfyUI 的 MiniMax Music3 默认工作流,执行到 MiniMaxMusic3TextEncode 节点(节点 ID 37:13)时抛出 ValueError。该问题已在禁用全部自定义节点、仅用原生节点的情况下复现。另有一位不同硬件的用户(RTX PRO 2000 Blackwell 8 GB)复现,并给出了根因分析。
报错原文
Node threw an error during execution.
## Error Details
- Node ID: 37:13
- Node Type: MiniMaxMusic3TextEncode
- Exception Type: ValueError
- Exception Message: ValueError: Expected a cuda device, but got: cpu
File "C:\Users\****y\ComfyUI-Installs\Local\ComfyUI\.venv\Lib\site-packages\comfy_kitchen\flash_attention.py", line 22, in is_available
return torch.cuda.get_device_capability(device) >= _MINIMUM_CAPABILITY
调用链:nodes_minimax_music.py:37 → sd.py:409 → text_encoders/minimax_music.py:98 → ldm/minimax_music/ar.py:252 → text_encoders/llama.py:794 → flash_attention.py:22。
原因分析
根据 Issue 中的追踪结论,这不是单纯的显存容量问题。
可能原因:comfy_kitchen/flash_attention.py 中的 is_available() 只检查了“系统层面是否有 CUDA”,没有检查“传入的 device 是否为 CUDA 设备”。当机器有 CUDA、但当前模块实际运行在 CPU 上时,前面的检查全部通过,最后执行 torch.cuda.get_device_capability(cpu),于是抛出 ValueError: Expected a cuda device, but got: cpu。
为什么文本编码器会落到 CPU:MiniMax Music3 的文本编码器体积较大(日志显示加载约 8759.61 MB),在 6–8 GB 显存的显卡上,ComfyUI 会把它放到 CPU,而正是这个放置触发了上述未加守卫的能力探测。调用方 llama.py 的 init_kv_cache 仅用该结果决定 KV cache 布局,其 else 分支本就是与设备无关的普通 KV cache,因此返回 False 即可回退,无需额外的 CPU 专用代码路径。
此前关于“6 GB 显存不足”的推测以及 --lowvram、--novram、--cpu 等启动参数尝试,均未解决问题;--cuda-device 0 也不改变设备放置。
环境排查
- 确认 ComfyUI 版本及提交号(Issue 中为 v0.33.1 /
72865f4f),补丁后升级的版本可能表现不同。 - 确认显卡型号与显存容量(GTX 1660 SUPER 6 GB 或 RTX PRO 2000 8 GB),以及驱动、CUDA 版本。
- 确认 PyTorch 版本与 CUDA 构建(Issue 中一例为 torch 2.13.0+cu130)。
- 确认是否安装并使用
comfy_kitchen,以及其 Flash Attention 扩展是否加载。 - 检查启动日志中文本编码器的实际设备与 offload 位置(例如显示
Device: cuda:0 ... offload device: cpu)。 - 确认本次运行是否为原生节点、已禁用全部自定义节点。
- 不建议把
--lowvram、--novram、--cpu当作修复手段,这些参数并不能消除该报错。
解决步骤
- 先排除干扰:禁用全部自定义节点后复跑 MiniMax Music3 默认工作流,确认仍报同一
ValueError(Issue 中原报告者已确认)。 - 查看日志中文本编码器的加载大小与 offload 设备,确认该节点确实运行在 CPU 上。Issue 中为约 8759.61 MB、offload device: cpu。
- 打开 ComfyUI 虚拟环境下的
site-packages/comfy_kitchen/flash_attention.py,定位is_available()中最后一行的torch.cuda.get_device_capability(device)。 - 在该行之前加入设备类型守卫(可优先尝试,Issue 中报告者已在本地验证):对字符串或
torch.device类型的参数判断其.type不为"cuda"时直接返回False;整数参数按惯例视为 CUDA 索引,保持原逻辑。 - 保存后重启 ComfyUI,重新运行工作流。
- 若可运行但速度不可接受,改用更小的量化文本编码器(如 Issue 中提到的 w4a8 版本),让文本编码器在 GPU 上运行;Issue 中 w4a8 跑 30 秒音频约 8 分 43 秒。
验证方法
应用守卫后重新执行 MiniMaxMusic3TextEncode 节点,不再出现 ValueError: Expected a cuda device, but got: cpu,且生成流程走普通 KV cache 回退路径完成,即视为问题已绕过。需注意 CPU 路径极慢(约 25 秒/token),能跑通不代表性能可接受;也应确认升级 ComfyUI 后补丁是否仍生效或已被官方修复取代。
参考来源
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
这个方案解决了吗?
可以继续搜索完整报错,或查看同一工具的其他排查指南。


