快速结论:该报错通常出现在用新版 upstream llama.cpp 转换 GGUF 后,再由 Ollama 内置的旧版 llama-server 加载模型时;优先排查模型转换所用 llama.cpp 版本与 Ollama 内置 llama.cpp 版本是否匹配。
适用环境:Ollama 0.40.16.0(Windows,ollama.exe);Linux 上亦复现于 Ollama v0.40.16;模型由 llama.cpp 1.0.0-dev / b12343 及之后版本转换(含 convert_hf_to_gguf.py);涉及 Qwen 3.8 27B 混合 SSM/DeltaNet 架构。
最快修复方案:暂无确认的一步修复方案。Issue 中指出,Ollama 内置 llama.cpp 同步到 b12257,作者预期下一次同步到 b12343 之后,才能加载按新张量结构转换的模型;在同步发布前,可优先尝试改用 b12343 之前的 llama.cpp 版本转换 GGUF。
注意事项:用旧版转换脚本重新转换会得到旧张量命名,只能规避本报错,尚未在 Issue 中得到验证;降级转换的模型也可能无法在新版 llama.cpp 中使用。等待 Ollama 升级内置 llama.cpp 属于推测方向,不代表已有正式修复版本。
问题场景
用户安装 Ollama(ollama.exe 0.40.16.0),其内置 llama.cpp 版本为 0.9.0-dev,其他模型可以正常运行。当执行 ollama run mymodel 加载由 llama.cpp 1.0.0-dev 转换的 GGUF 模型时,模型加载失败。同一 GGUF 文件用 llama.cpp 1.0.0-dev 中的 llama-server.exe 可以正常加载,但 Ollama 自带的 llama-server.exe 无法加载。另一用户用 upstream llama.cpp v1.0.0+ 的 convert_hf_to_gguf.py 转换 Qwen 3.8 27B 混合 SSM/DeltaNet 权重后,在 Ollama v0.40.16 上同样复现。
报错原文
error loading model: check_tensor_dims: tensor 'blk.0.ssm_beta.weight' not found
llama-server process has terminated: exit status 1
msg="llama-server terminated" error="exit status 1" exit=1
msg="Load failed"
llama.cpp 上游 b12343 中的张量变更示意:
- 245760 | 5120, 48, 1, 1 | BF16 | blk.0.ssm_alpha.weight
- 245760 | 5120, 48, 1, 1 | BF16 | blk.0.ssm_beta.weight
- 52428800 | 5120, 10240, 1, 1 | BF16 | blk.0.attn_qkv.weight
- 31457280 | 5120, 6144, 1, 1 | BF16 | blk.0.attn_gate.weight
+ 491520 | 5120, 96, 1, 1 | BF16 | blk.0.ssm_beta_alpha.weight
+ 83886080 | 5120, 16384, 1, 1 | BF16 | blk.0.attn_qkv_gate.weight
原因分析
最可能的原因是张量命名与结构不匹配。llama.cpp 在 b12343 版本通过 PR #32102 改变了张量形状:原来的 blk.0.ssm_alpha.weight 与 blk.0.ssm_beta.weight 被合并为 blk.0.ssm_beta_alpha.weight,blk.0.attn_qkv.weight 与 blk.0.attn_gate.weight 被合并为 blk.0.attn_qkv_gate.weight。Ollama 内置 llama.cpp 最后一次同步为 b12257(PR #19646),早于 b12343,因此仍按旧张量名查找,找不到 blk.0.ssm_beta.weight 即加载失败。用 b12343 之后版本转换的 Qwen3.5 系模型都会遇到此问题。
环境排查
- 确认 Ollama 版本,Issue 中为 0.40.16.0 / v0.40.16。
- 确认 Ollama 内置 llama.cpp 版本,Issue 中自述为 0.9.0-dev;Ollama 内置同步点对应上游 b12257。
- 确认转换 GGUF 所用 llama.cpp 版本,Issue 中为 1.0.0-dev / b12343 及之后。
- 确认模型架构,Issue 中为 Qwen 3.8 27B 混合 SSM/DeltaNet,以及 qwen3.5 系。
- 对比方式:用同版本 upstream llama-server 加载同一 GGUF,确认文件本身完好。
解决步骤
- 先用 llama.cpp 1.0.0-dev 的 llama-server.exe 加载同一 GGUF,确认模型文件可正常加载,排除文件损坏。
- 查看转换 GGUF 时所用 llama.cpp 版本;若为 b12343 或更高版本,即符合本 Issue 的触发条件。
- 可优先尝试:使用 b12343 之前的 llama.cpp 版本重新执行 convert_hf_to_gguf.py 转换模型,再在 Ollama 中加载,以匹配旧张量命名。
- 关注 Ollama 对内置 llama.cpp 的版本同步;上游同步越过 b12343 后,新结构 GGUF 应可被加载(此为 Issue 作者的预判,尚未给出已验证版本)。
- 在等待同步期间,如需继续使用该模型,可暂时改用与转换版本匹配的 upstream llama-server.exe 运行。
验证方法
重新执行 ollama run mymodel,若不再出现 tensor 'blk.0.ssm_beta.weight' not found,且 llama-server 不再以 exit status 1 退出,日志中不再出现 Load failed,并能正常进入对话,则说明问题已解决。若仍报同类张量缺失,说明 Ollama 内置 llama.cpp 仍未支持该 GGUF 张量结构。
参考来源
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
这个方案解决了吗?
可以继续搜索完整报错,或查看同一工具的其他排查指南。


