deepseek-ocr :: Not able to run this model

用户通过 ollama run deepseek-ocr 运行模型时,遇到 500 Internal Server Error 错误,模型无法加载。Ollama 日志显示模型元数据已成功加载( llama_model_loader: loaded meta data with 33 key-valu

快速结论:该报错发生在运行 deepseek-ocr 模型时,最常见的原因是 Ollama 版本过低(低于 v0.13.0)。请优先升级 Ollama 到 v0.13.0 或更高版本。

问题场景

用户通过 ollama run deepseek-ocr 运行模型时,遇到 500 Internal Server Error 错误,模型无法加载。Ollama 日志显示模型元数据已成功加载(llama_model_loader: loaded meta data with 33 key-value pairs and 631 tensors),但最终返回 500 错误。

报错原文

Error: 500 Internal Server Error: unable to load model: /home/.ollama/models/blobs/sha256-3a18673ff291a1d8de94d490877127899356d33a18028d5f3945bf245c11b02c

在部分情况下(Ollama v0.31.1),报错为:

Error: 500 Internal Server Error: an error was encountered while running the model: unexpected EOF

原因分析

官方确认:DeepSeek-OCR 需要 Ollama v0.13.0 或更高版本。 低于该版本的 Ollama 无法正确加载此模型。用户反馈即使安装 v0.13.1 后仍遇到问题,但后续版本(如 v0.31.1)依旧出现 unexpected EOF 错误,可能原因包括:

  • 模型 blob 文件损坏或不完整(sha256-3a18673ff291...11b02c)。
  • Ollama 版本与模型不兼容的残余问题(尽管已满足最低版本)。
  • 系统资源不足或内存分配失败(用户有 160GB 内存,但模型对显存或内存布局可能有特殊要求)。

环境排查

  • Ollama 版本:运行 ollama --version 确认,必须 >= 0.13.0。
  • 模型完整性:检查 ~/.ollama/models/blobs/ 下的 sha256-3a18673ff291a1d8de94d490877127899356d33a18028d5f3945bf245c11b02c 是否存在(约几 GB),可尝试删除后重新 ollama pull deepseek-ocr
  • 系统资源:确认可用 RAM 是否充足,以及是否使用 CUDA(如需 GPU 加速则需驱动支持)。

解决步骤

  1. 升级 Ollama(可优先尝试):Ollama Releases 下载 v0.13.0 或最新稳定版安装。旧版可通过 curl -fsSL https://ollama.com/install.sh | sh 更新。
  2. 重新拉取模型:执行 ollama rm deepseek-ocr 删除旧模型,再 ollama pull deepseek-ocr
  3. 如果仍有 unexpected EOF
    • 尝试清空 Ollama 缓存:rm -rf ~/.ollama/models/blobs/*.part(仅删除不完整的临时下载文件)。
    • 重启 Ollama 服务:sudo systemctl restart ollamaollama serve
    • 检查是否因多 GPU 或内存不足导致:尝试设置环境变量 OLLAMA_NUM_PARALLEL=1OLLAMA_MAX_LOADED_MODELS=1

验证方法

升级并重新拉取模型后,运行 ollama run deepseek-ocr,应能正常进入交互模式。也可用 echo "Describe the image." | ollama run deepseek-ocr /path/to/image.png 测试图片 OCR 功能,确认不再返回 500 错误。

参考来源

ollama/ollama #13177

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 16171

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注