INT8 is slowed down on latest update on turing

用户在使用 ComfyUI Desktop(Windows 11)运行 INT8 精度的模型推理时,发现最新提交(含 PR #14927 )相比稳定版性能下降约 50%。测试显卡为 NVIDIA GTX 1660 Super(Turing 架构)。

INT8 is slowed down on latest update on turing

INT8 is slowed down on latest update on turing

快速结论:该问题出现在搭载 Turing 架构显卡(如 GTX 1660S)的 ComfyUI 最新更新后,INT8 推理速度显著下降(约慢一倍)。优先排查是否因 PR #14927 引入的变更导致性能回退,已通过后续修复解决。

问题场景

用户在使用 ComfyUI Desktop(Windows 11)运行 INT8 精度的模型推理时,发现最新提交(含 PR #14927)相比稳定版性能下降约 50%。测试显卡为 NVIDIA GTX 1660 Super(Turing 架构)。

报错原文

INT8 runs about twice as fast on the stable release with my GTX 1660S compared to this latest PR.

(无显式错误提示,仅表现为性能异常下降。)

原因分析

可能原因:PR #14927 中对 INT8 运算的某些调度或内存管理逻辑进行了修改,在 Turing 架构显卡上未能取得预期性能,甚至出现倒退。该修改可能未充分兼容旧架构的硬件特性(如缺乏某些 Tensor Core 支持),导致推理效率下降。

环境排查

  • 显卡型号:Turing 架构(如 GTX 16 系列、RTX 20 系列)
  • 操作系统:Windows 11(用户测试环境)
  • ComfyUI 版本:包含 PR #14927 的最新提交;对比稳定版(如 2026 年 7 月前发布的版本)
  • 模型精度:INT8

解决步骤

  1. 更新 ComfyUI 到最新版本(即关闭 Issue 时已合并相关修复的版本)。
  2. 确保已禁用所有自定义节点后测试,以排除外部干扰。
  3. 如果更新后仍存在问题,可尝试回退到稳定版(如 Issue 中未明确指定版本号,建议从 Git 历史中标记的稳定版分支或发布版中查找)。

验证方法

运行相同的 INT8 推理工作流,对比当前版本与稳定版的推理耗时(如 UI 中的排队/执行时间)。若恢复原有速度(快约一倍)则问题已解决。

参考来源

Comfy-Org/ComfyUI #14937

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

celebrityanime
celebrityanime
文章: 13399

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注