ValueError: No cache context is set`:

当你在自定义或改造 Diffusers pipeline 时,如果给 denoiser(如 self.transformer )启用了 StateManager/Hook 缓存机制,并在 CFG 中分别跑 cond/uncond 分支,就可能因为调用模型时没有用 cache_context("con

快速结论:当你在自定义或改造 Diffusers pipeline 时,如果给 denoiser(如 self.transformer)启用了 StateManager/Hook 缓存机制,并在 CFG 中分别跑 cond/uncond 分支,就可能因为调用模型时没有用 cache_context("cond") / cache_context("uncond") 包住而触发 ValueError: No cache context is set。优先排查 pipeline 中每次 self.transformer(...) 调用是否都补齐了 cache context。

适用环境:Issue 证据仅确认与 huggingface/diffusers 的 pipelines、hooks(StateManager、Hook、State)有关,涉及 Flux2、Flux Kontext、Flux Inpaint、ControlNet、SANA、Hunyuan 系列、Stable Diffusion 3、PAG 等 pipeline 及其变体。未提供具体 Python、PyTorch、CUDA、显卡版本信息。

最快修复方案:暂无确认的一步修复方案。Issue 中给出的方向是:参照 Flux T2I 或 HunyuanImage pipeline 的写法,在调用 self.transformer 时用 with self.transformer.cache_context("cond"): 与 with self.transformer.cache_context("uncond"): 分别包裹正、负分支的前向调用。

注意事项:该 Issue 被标记为 stale / contributions-welcome,方案尚未作为正式修复合并验证;改动需要逐个 pipeline 检查,不能只改一个文件就认为全局生效。实际修复前建议先确认出问题的 pipeline 文件是否在 Issue 列出的待修复清单中。

问题场景

用户在 Diffusers 中使用或改造图像/视频生成 pipeline(例如 Flux2、Flux Kontext、Flux Inpaint、ControlNet 变体、SANA、Hunyuan、Stable Diffusion 3 等)时,结合 classifier free guidance 进行去噪。部分 pipeline 在调用 denoiser(如 self.transformer)前没有设置当前属于 cond 还是 uncond 的 cache context,导致 StateManager/Hook 无法区分两个分支的状态。

Issue 作者指出 Flux T2I 已经实现了 context 设置,而 Flux Kontext 等 pipeline 变体缺失;后续评论用一个统计 self.transformer( 与 self.transformer.cache_context 出现次数的脚本,列出了大量需要检查的 pipeline 文件。

报错原文

ValueError: No cache context is set

原因分析

最可能的原因是:pipeline 中启用了基于 StateManager 的缓存上下文机制,但调用 self.transformer 时没有进入 cache_context("cond") 或 cache_context("uncond")。这样 Hook 在读取缓存状态时无法判断当前应使用 cond 还是 uncond 的 state,于是抛出 ValueError: No cache context is set。

Issue 中明确提到,部分热门 pipeline 或 pipeline 变体(如 Flux Kontext、Image to image、Inpainting)没有实现该 context 设置;评论进一步列出需要修复的范围,说明问题不是单一文件,而是多个 pipeline 调用点缺少一致处理。

环境排查

  • 确认使用的 diffusers 版本,以及是否为包含 hooks / StateManager 相关代码的版本。
  • 确认出问题的 pipeline 类型与具体文件,例如 pipeline_flux_kontext.py、pipeline_flux_img2img.py、pipeline_flux_inpaint.py、pipeline_stable_diffusion_3.py 等,并对照 Issue 评论中的待修复文件清单。
  • 确认 pipeline 中是否确实启用了 StateManager / Hook 缓存;如果未启用相关机制,则此报错可能不会出现。
  • 确认 CFG 分支中正、负 prompt 的前向调用是否分别位于 cond 与 uncond 的 cache context 中。
  • Issue 未提供 Python、PyTorch、CUDA、显卡版本要求,这部分暂不以版本作为排查依据。

解决步骤

  1. 定位报错 pipeline:在报错栈中找到具体 pipeline 文件与调用 self.transformer 的行,判断它是否属于 Issue 评论列出的缺少 context 的文件。
  2. 检查该 pipeline 的 CFG 去噪段:确认正分支和负分支是否分别直接用 self.transformer(...) 调用,而没有套 cache context。
  3. 参照 Flux T2I 或 HunyuanImage pipeline 的写法,在正分支调用前进入 with self.transformer.cache_context("cond"):,在负分支调用前进入 with self.transformer.cache_context("uncond"):。Issue 中给出的示意为:
    with self.transformer.cache_context("cond"):
        noise_pred = self.transformer(...)
    with self.transformer.cache_context("uncond"):
        neg_noise_pred = self.transformer(...)
    
  4. 如果维护多个 pipeline,按 Issue 评论中的文件清单逐个排查,不要只修复当前报错的一个文件。
  5. 如果暂不改源码,可优先尝试换用已正确实现 cache context 的 pipeline 变体(例如 Issue 指出的 Flux T2I)来验证问题是否与 context 缺失有关;该规避方式为推测,尚未在 Issue 中得到验证。

验证方法

重新运行之前触发 ValueError: No cache context is set 的 pipeline 与参数组合,确认报错消失,并且 CFG 正、负分支均能正常完成去噪。若仍报同一错误,继续检查是否还有未包裹 cache context 的 self.transformer 调用点。

参考来源

huggingface/diffusers #12760

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 36045

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注