gemma4:31b-coding-mtp-bf16 getting error “requires macOS” on Linux NVIDIA GDX Spark

用户在 Linux (NVIDIA GDX Spark) 系统上,使用 Ollama 0.23.1 执行 ollama pull gemma4:31b-coding-mtp-bf16 时,拉取失败并返回错误。

gemma4:31b-coding-mtp-bf16 getting error "requires macOS" on Linux NVIDIA GDX Spark

gemma4:31b-coding-mtp-bf16 getting error “requires macOS” on Linux NVIDIA GDX Spark

快速结论:gemma4:31b-coding-mtp-bf16 模型使用了 MLX runner 和 MTP(Multi-Token Prediction)优化,目前 MLX runner 在 Linux 上未正式支持,因此拉取时会直接报错 “this model requires macOS”。优先排查用户是否在非 macOS 系统上尝试运行该模型。

问题场景

用户在 Linux (NVIDIA GDX Spark) 系统上,使用 Ollama 0.23.1 执行 ollama pull gemma4:31b-coding-mtp-bf16 时,拉取失败并返回错误。

报错原文

$ ollama pull gemma4:31b-coding-mtp-bf16
pulling manifest 
Error: pull model manifest: 412: this model requires macOS

原因分析

该模型依赖 MLX runner 实现 MTP 推理。MLX runner 目前(截至 Issue 关闭时)仅在 macOS 上获得正式支持。社区开发者在 Linux 上通过手动调整已能运行部分 MLX 模型(如 qwen3.6:35b-a3b-mlx-bf16),但官方明确表示 “MLX is not mature on non-macOS platforms yet so is not officially supported”。因此该错误并非环境配置问题,而是模型兼容性限制。

环境排查

  • 确认操作系统是否为 macOS。如果非 macOS(Linux/Windows),该模型无法在官方支持下运行。
  • 如果必须使用 Linux,可尝试切换到 gemma4:31b-coding-mtp-bf16 的非 MLX 变体(例如标准 gemma4:31b 系列标签),前提是这些标签不依赖 MLX。
  • 检查 Ollama 版本:Issue 中用户使用 0.23.1,当前最新版本可能已更新,但 MLX 支持策略未变。

解决步骤

  1. 临时方案(仅限 Linux/Windows 用户):选择一个不标记 -mtp-mlx 的模型标签。例如 ollama pull gemma4:31b-coding-bf16gemma4:latest(具体请查阅 Gemma 4 标签页 确认可用版本)。
  2. 长期方案(供开发者/实验性使用):参考社区测试,Linux 上已能运行部分 MLX 模型,但未被官方文档支持。可优先尝试更新至 Ollama 最新版(如 >= 0.25),然后在 Linux 上用 ollama run qwen3.6:35b-a3b-mlx-bf16 测试 MLX 支持是否已部分启用(参见 Issue 评论中开发者测试)。但需要明确:这是一个实验性方案,可能不稳定。
  3. 替代方案:如果必须使用 MTP 优化,且无法迁移到 macOS,考虑使用 llama.cpp 作为后端,它提供了更广泛的 GPU 支持和模型格式兼容性。并关注 Olama 官方对 MLX Linux 支持的后续更新。

验证方法

执行 ollama run gemma4:31b-coding-mtp-bf16 如果不再报错 “requires macOS”,且模型正常推理(包括多 token 预测输出),则视为解决。如果仅执行 pull,则确认输出为 “success” 且无 412 错误。注意:在 Linux 上即使 pull 成功,推理时仍可能遇到崩溃,所以建议完成一次完整的推理测试。

参考来源

ollama/ollama #16019

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

celebrityanime
celebrityanime
文章: 14823

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注