Add Hierarchical Reasoning Model

这个 Issue 不是传统意义上的“报错排雷”,而是模型集成请求:用户希望把 Hierarchical Reasoning Model(HRM)合入 Transformers。Issue 最终被标记为 superseded(被取代),因为 HRM 已以 hrm_text 形式原生支持,所以如果你仍在

快速结论:这个 Issue 不是传统意义上的“报错排雷”,而是模型集成请求:用户希望把 Hierarchical Reasoning Model(HRM)合入 Transformers。Issue 最终被标记为 superseded(被取代),因为 HRM 已以 hrm_text 形式原生支持,所以如果你仍在找 HRM 相关的 ARC/Sudoku/maze 能力,优先确认你应该用 huggingface 原生 hrm_text,还是加载 Hub 上的原始 checkpoint 并配合 trust_remote_code。

适用环境:Issue 已确认的信息为 Transformers 仓库、HRM 模型集成;原生支持 hrm_text 经由 #46025 添加,并随 v5.9.0 发布。Issue 中没有提供操作系统、Python、CUDA、显卡或 PyTorch 版本信息。

最快修复方案:如果你要使用原生 HRM 文本模型,直接使用 Transformers 中的 hrm_text;如果你要使用原始 ARC/Sudoku/maze checkpoint,则从 Hub 加载并启用 trust_remote_code,因为 hrm_text 不包含 ACT halting 和 puzzle embeddings。

注意事项:原生 hrm_text 是自回归语言模型变体,不等同于原版 HRM 的完整推理能力;Issue 中未给出具体加载代码、权重兼容性验证或依赖版本要求,ARC/Sudoku/maze 场景仍需以原始 checkpoint 为准。

问题场景

用户在 huggingface/transformers 仓库中发起 Issue #41271,标题为 Add Hierarchical Reasoning Model,请求把 HRM(Hierarchical Reasoning Model)集成进 Transformers 库。该模型原本来自 sapientinc/HRM 代码库,用于复杂推理任务,包括 Sudoku、迷宫寻路以及 ARC 基准。用户同时提供了模型实现、权重链接和原论文,并准备提交 PR 来关闭该 Issue。

报错原文

Add Hierarchical Reasoning Model

该 Issue 本身不是运行时报错,而是功能请求。评论中提到后续处理结论:HRM is now supported natively as hrm_text (added in #46025, released in v5.9.0), which is why #41272 was closed as superseded.

原因分析

最可能的原因是 HRM 的集成请求与后续官方原生实现存在重叠。Issue 由社区贡献者提出,希望将 HRM 合入 Transformers;但维护者后续已经在 #46025 中添加了原生 hrm_text 支持,并随 v5.9.0 发布,因此原 PR/Issue 被视为 superseded。需要注意,原生 hrm_text 只覆盖自回归语言模型变体,并不包含原版 HRM 的 ACT halting 和 puzzle embeddings,所以原版 ARC/Sudoku/maze checkpoint 仍建议通过 trust_remote_code 从 Hub 加载。

环境排查

  • 确认当前使用的 Transformers 版本是否达到 v5.9.0,或是否包含 hrm_text 支持。
  • 确认你使用的是原生 hrm_text 还是 Hub 上的原始 HRM checkpoint,两者能力范围不同。
  • 如果加载原版 ARC/Sudoku/maze checkpoint,确认是否设置 trust_remote_code。
  • Issue 中未提供 Python、CUDA、PyTorch、显卡型号或依赖版本,因此这些项目无法从当前讨论链确认。

解决步骤

  1. 如果你只需要原生支持的 HRM 文本模型,升级或安装到包含 hrm_text 的 Transformers 版本(Issue 评论明确为 v5.9.0)。
  2. 如果你要复现原论文中的 ARC、Sudoku 或 maze 推理能力,不要只依赖 hrm_text,因为评论明确指出它没有 ACT halting 或 puzzle embeddings。
  3. 对于原版 checkpoint,优先从 Hub 加载 sapientinc/HRM-checkpoint-ARC-2、sapientinc/HRM-checkpoint-sudoku-extreme、sapientinc/HRM-checkpoint-maze-30x30-hard 等权重,并按需启用 trust_remote_code。
  4. 如果仍在关注 #41272 的 PR,注意它已被关闭为 superseded,不应再把该 PR 当作合并路径。

验证方法

确认你的 Transformers 环境能识别 hrm_text;然后根据目标选择验证路径:若验证文本模型,用原生 hrm_text 加载;若验证 ARC/Sudoku/maze 原始能力,用 trust_remote_code 加载对应 Hub checkpoint,并确认模型能正常初始化。由于 Issue 中没有给出具体命令或输出日志,最终应以你本地版本和加载结果为准。

参考来源

huggingface/transformers #41271

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 26829

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注