[CI Failure]: Multimodal Processor shards – test_tensor_schema[naver-hyperclovax/HyperCLOVAX-SEED-Think-32B] – upstream model_type hyperclov

该报错出现在 vLLM 多模态处理测试(Multimodal Processor shard)加载 Hugging Face 模型 naver-hyperclovax/HyperCLOVAX-SEED-Think-32B 时。上游仓库把 model_type 改成了 CI 镜像里的 transfor

快速结论:该报错出现在 vLLM 多模态处理测试(Multimodal Processor shard)加载 Hugging Face 模型 naver-hyperclovax/HyperCLOVAX-SEED-Think-32B 时。上游仓库把 model_type 改成了 CI 镜像里的 transformers 不认识的 hyperclovax_vision_v2,导致 ModelConfig 校验失败。优先排查 CI 镜像中的 transformers 版本,以及测试是否固定了该 HF 仓库的 revision。

适用环境:vLLM 仓库 CI,涉及 Multimodal Processor 的多个 shard 任务,包括 computer-cpu-multimodal-processor-shard-2、shard-4、nvidia-h200-mig-18gb-multimodal-processor、amd-mi355-multimodal-processor,标签含 rocm。Issue 未给出具体的 Python、CUDA、PyTorch、显卡驱动版本号,这些项目不要补写。

最快修复方案:暂无确认的一步修复方案。Issue 提出且后续讨论中已落在主线上的处理方向是:在测试配置中为 naver-hyperclovax/HyperCLOVAX-SEED-Think-32B 固定一个可用的 HF revision(对应 PR #56335);若该 revision 仍不足,可为 HCXVisionV2ForCausalLM 增加 min_transformers_version,使测试在版本不满足时直接 skip。最终由维护者确认测试组恢复通过,issue 关闭。

注意事项:讨论中指出,出问题的构建(57530b52)早于 #56335,此时配置里没有 revision=,因此这些旧运行不能证明 pin 已覆盖 test_common.py 路径。另外,该条目没有 min_transformers_version,测试检查无法在构造 ModelConfig 前将其跳过,仍会报错。升级 CI 镜像中的 transformers 同样是 Issue 列出的候选方案,但讨论中没有单独验证其效果。

问题场景

在 vLLM 仓库执行多模态处理相关的 CI 测试时,涉及模型 naver-hyperclovax/HyperCLOVAX-SEED-Think-32B 的用例失败。最初表现为 models/multimodal/processing/test_tensor_schema.py::test_model_tensor_schema[naver-hyperclovax/HyperCLOVAX-SEED-Think-32B];后续在排除 test_tensor_schema.py 的 shard 任务中,又出现在 models/multimodal/processing/test_common.py::test_processing_correctness 参数化用例上。这些 shard 通过 –ignore 排除 test_tensor_schema.py,说明两条测试路径都会受到影响。失败与硬件无关,重试后仍稳定复现,且触发该问题的 PR 本身并未改动多模态代码。

报错原文

[CI Failure]: Multimodal Processor shards - test_tensor_schema[naver-hyperclovax/HyperCLOVAX-SEED-Think-32B] - upstream model_type hyperclovax_vision_v2 unknown to CI transformers

pydantic_core._pydantic_core.ValidationError: 1 validation error for ModelConfig
  Value error, The checkpoint you are trying to load has model type `hyperclovax_vision_v2` but Transformers does not recognize this architecture.

shard-2: FAILED models/multimodal/processing/test_common.py::test_processing_correctness[1.0-32-0.5-naver-hyperclovax/HyperCLOVAX-SEED-Think-32B]
shard-2: FAILED models/multimodal/processing/test_common.py::test_processing_correctness[1.0-32-1.0-naver-hyperclovax/HyperCLOVAX-SEED-Think-32B]
         = 2 failed, 280 passed, 27 skipped, 1 xfailed in 1607.23s =

shard-4: FAILED models/multimodal/processing/test_common.py::test_processing_correctness[1.0-32-0.3-naver-hyperclovax/HyperCLOVAX-SEED-Think-32B]
         = 1 failed, 270 passed, 29 skipped in 1512.90s =

E  pydantic_core._pydantic_core.ValidationError: 1 validation error for ModelConfig
E    Value error, The checkpoint you are trying to load has model type `hyperclovax_vision_v2`
E    but Transformers does not recognize this architecture.

原因分析

最可能的原因是上游 Hugging Face 仓库 naver-hyperclovax/HyperCLOVAX-SEED-Think-32B 的 model_type 已变更为 hyperclovax_vision_v2,而 CI 镜像中的 transformers 版本不认识这个架构,ModelConfig 校验因此失败。这是仓库外部原因,与运行硬件和 PR 改动内容无关。

另一个可能原因相关的问题是:测试配置中该模型条目只有 trust_remote_code=True 而没有 revision=,会跟随上游最新提交,上游一变就可能再次失败。同时,该条目缺少 min_transformers_version,test_common.py 中 test_processing_correctness 路径在构造 ModelConfig 前虽然调用了版本检查,但无法命中跳过条件,因此仍会抛错。原 issue 标题只覆盖 test_tensor_schema.py;讨论中已确认 test_common.py 是同根因的另一条受影响路径,修复时需一并覆盖。

环境排查

  • 确认 CI 镜像中安装的 transformers 版本,以及该版本是否认识 hyperclovax_vision_v2 架构。
  • 确认测试配置(如 HCXVisionV2ForCausalLM 对应的 _HfExamplesInfo)是否指定了 revision;若未指定,即处于跟随上游最新提交状态。
  • 确认相关条目是否设置了 min_transformers_version;缺失该字段会导致版本不满足时无法 skip。
  • 确认失败 shard 覆盖的两条路径:test_tensor_schema.py::test_model_tensor_schema 与 test_common.py::test_processing_correctness。
  • 对比失败构建的提交与 #56335 的先后关系,判断是否已包含 revision pin。
  • Issue 未提供具体 Python、CUDA、PyTorch、驱动版本,无需按固定版本号排查。

解决步骤

  1. 先确认当前代码树中 naver-hyperclovax/HyperCLOVAX-SEED-Think-32B 的测试配置是否已有 revision=。若没有,可优先尝试将测试固定到一个该 transformers 版本可识别、且测试可稳定通过的 HF revision(对应 #56335 的做法)。
  2. 固定 revision 后同时运行 test_tensor_schema.py::test_model_tensor_schema 与 test_common.py::test_processing_correctness 中该模型的相关参数化用例,确认两条路径都通过。
  3. 如果 pin 之后仍失败,可优先尝试为 HCXVisionV2ForCausalLM 增加 min_transformers_version(参照 HunYuanVLForConditionalGeneration 的写法),使测试在 transformers 版本不足时被 version check 跳过,而不是在 ModelConfig 构造处报错。
  4. 另一种候选方案是升级 CI 镜像中的 transformers 到能识别 hyperclovax_vision_v2 的版本。Issue 将其列为 possible fix,但讨论中未单独验证,实施前需评估镜像升级对其他测试的影响。
  5. 临时方案可考虑在 test_tensor_schema 中跳过该模型 id,但该方案只覆盖标题中的测试文件,无法解决 test_common.py 的失败,且属于掩盖而非修复,不建议作为最终处理。

验证方法

在受影响的 Multimodal Processor 各 shard(含 CPU、NVIDIA H200 MIG、AMD MI355 任务)中重跑多模态处理测试,确认 test_model_tensor_schema 以及 test_processing_correctness 中 HyperCLOVAX-SEED-Think-32B 的用例不再出现 ModelConfig 的 ValidationError;其他用例通过数不应因此下降。Issue 关闭前维护者确认该测试组已恢复通过,可作为最终验证结论。

参考来源

vllm-project/vllm #56397

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 29507

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注