快速结论:拉取 embeddinggemma-2 系列模型时触发,报错 Failed to pull `embeddinggemma-2:740m` on linux 的根因是所选标签需要 MLX 运行时,而当前 Linux/Windows 平台的 Ollama 并不提供 MLX 支持。优先排查两点:所拉取标签是否为 MLX-only,以及 Ollama 版本是否满足 GGUF 变体的最低要求。
适用环境:Issue 已确认的信息:Ollama 0.40.0(原报告)、Ollama 0.40.15(后续验证,Linux arm64、仅 CPU)、Linux(Intel CPU/GPU)、Windows、TrueNAS Scale(Docker 方式安装的 Ollama 应用)。
最快修复方案:改用 GGUF 标签并先升级 Ollama。Issue 中明确验证:在 Ollama 0.40.15(Linux arm64,CPU only)上执行 ollama pull embeddinggemma-2:270m-q8_0-text 成功(约 303 MB);而 ollama pull embeddinggemma-2:740m-bf16 仍报同样的 MLX 错误。GGUF 变体需要 Ollama 0.40.4 或更高版本,在 0.40.0 上会报 “The model you are attempting to pull requires a newer version of Ollama”,因此需先升级。
注意事项:MLX-only 标签包括 -bf16、-mxfp8、-nvfp4 变体,网站上 bf16 变体未显示 MLX 徽标(见 #18971),容易误选。Issue 提到 registry 现在已将 embeddinggemma-2:740m 本身解析为 GGUF manifest,但该结论来自评论者验证,需以你实际拉取结果为准。此外 phonon 没有 GGUF 变体,在 Linux 上仍需 MLX,无法用此方法绕过。评论者提到 amd64 镜像自带面向 CUDA 13 的 MLX 库,但其本人无 NVIDIA GPU,该路径未经验证。
问题场景
用户在 Linux(Intel CPU/GPU)上使用 Ollama 0.40.0 执行 ollama pull embeddinggemma-2:740m 时,在 pulling manifest 阶段失败。后续评论显示 Windows 用户拉取 embeddinggemma-2、embeddinggemma-2:270m、embeddinggemma-2:740m-bf16 时出现相同错误;TrueNAS Scale 上以 Docker/标准应用方式安装的 Ollama 拉取 embeddinggemma-2:270m-bf16-text、-mxfp8-text、-nvfp4-text 也复现;另有用户反馈 laya 模型同样受影响。
报错原文
pulling manifest
Error: this model requires MLX support, but the MLX runtime is not available
原因分析
该错误表示所拉取的模型标签被标记为需要 MLX 运行时,而当前平台(Linux、Windows)的 Ollama 尚不提供 MLX 支持。维护者在评论中确认:该支持“目前尚未在 Linux 和 Windows 上提供,后续会添加”。可能原因还包括选错了标签——模型页面“view all”列表中部分 MLX-only 变体未带 MLX 徽标,用户容易拉到需要 MLX 的版本;同时在 Ollama 0.40.0 上,GGUF 变体也会因版本过旧而无法拉取。
环境排查
- 确认 Ollama 版本:GGUF 变体需要 0.40.4 或更高版本;0.40.0 会报需要更新版本。
- 确认操作系统与架构:Issue 覆盖 Linux(Intel CPU/GPU)、Linux arm64、Windows、TrueNAS Scale Docker;MLX 支持在 Linux/Windows 均不可用。
- 确认目标标签是否为 MLX-only:
-bf16、-mxfp8、-nvfp4变体属于 MLX-only。 - 确认模型是否有 GGUF 变体:如
phonon无 GGUF 变体,无法在 Linux 上绕过。 - 确认拉取失败后已在本地残留的模型条目,避免继续占用空间。
解决步骤
- 先升级 Ollama 到 0.40.4 或更高版本(Issue 验证环境为 0.40.15),否则 GGUF 变体会报需要更新版本。
- 不要拉取
-bf16、-mxfp8、-nvfp4这类 MLX-only 标签,改用 GGUF 标签,例如-q8_0系列。 - 在 Linux 上可优先尝试已验证成功的命令:
ollama pull embeddinggemma-2:270m-q8_0-text。 - 拉取前可先查询 manifest 判断标签类型:执行
curl -s https://registry.ollama.ai/v2/library/embeddinggemma-2/manifests/740m-bf16 | grep -q image.tensor && echo MLX || echo GGUF,输出 MLX 说明该标签仅支持 MLX。 - 若目标模型(如
phonon)没有 GGUF 变体,在 Linux 上暂时无法通过换标签解决,只能等待平台支持 MLX。
验证方法
重新执行 ollama pull 后,pulling manifest 阶段不再出现 “this model requires MLX support” 即表示标签选择正确;拉取完成后可用 ollama list 确认模型已落入本地列表。若仍报 MLX 错误,说明当前标签仍为 MLX-only,需换用 GGUF 标签再次验证。
参考来源
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
这个方案解决了吗?
可以继续搜索完整报错,或查看同一工具的其他排查指南。


