ollama create Error: open config.json: file does not exist

用户使用 ollama create 命令从本地模型文件创建自定义模型,Modelfile 中 FROM 指定了单个权重文件路径(如 pytorch_model.bin ),Ollama 在读取模型时找不到所需的 config.json 。操作系统为 Windows,Ollama 版本 0.3.13

ollama create Error: open config.json: file does not exist

ollama create Error: open config.json: file does not exist

快速结论:当在 Modelfile 中使用 FROM 指定单个模型文件(如 .bin.safetensors)而非模型目录时,Ollama 无法找到同级的 config.json 文件,导致此错误。优先检查 Modelfile 中的 FROM 路径是否指向目录而非文件。

问题场景

用户使用 ollama create 命令从本地模型文件创建自定义模型,Modelfile 中 FROM 指定了单个权重文件路径(如 pytorch_model.bin),Ollama 在读取模型时找不到所需的 config.json。操作系统为 Windows,Ollama 版本 0.3.13。

报错原文

Error: open config.json: file does not exist

原因分析

可能原因:Ollama 的 FROM 指令需要指向包含模型文件的目录,而不是直接指向单个文件(如 pytorch_model.binmodel.safetensors)。当指定单个文件时,Ollama 会在该文件所在路径的上层搜索 config.json,但实际配置文件通常与权重文件位于同一目录下,导致找不到。此外,Ollama 官方仅正式支持 safetensors 格式,从 PyTorch 的 .bin 权重转换可能因缺少足够信息而失败。

环境排查

  • Ollama 版本:0.3.13 或更早版本(该问题在后续版本中可能已修复,但路径规则一致)
  • 操作系统:Windows(涉及路径分隔符)
  • 模型格式:PyTorch 格式(.bin)或 safetensors 格式
  • 确认模型目录中包含以下必要文件:config.jsontokenizer.jsontokenizer_config.json(如适用)

解决步骤

  1. 修改 Modelfile:FROM 路径从单个文件改为指向包含模型文件的目录。例如,将:
    FROM .\export\pytorch_model.bin
    改为:
    FROM .\export
    确保 config.json 文件与模型权重文件位于同一目录下(即 .\export\ 目录中)。
  2. 如果使用 safetensors 格式:也可将目录作为 FROM 目标,例如:
    FROM ./my-model-folder
    错误示例:FROM ./my-model-folder/model.safetensors ❌)
  3. 检查文件命名:若模型使用 adapter_model.safetensors 等非标准名称,Ollama 可能无法识别。可尝试重命名为 model.safetensors 后再将目录作为 FROM 目标(社区用户反馈此方法有效)。
  4. (可优先尝试)如果仍需指定单个文件,可确保该文件与 config.json 位于同一目录,但不推荐,因为 Ollama 处理单个文件时可能仍会报错。最可靠的方案是始终指向目录。

验证方法

重新运行 ollama create mymodel -f D:\path\to\Modelfile。如果不再出现 Error: open config.json: file does not exist,且模型成功创建,则问题解决。可通过 ollama list 确认新模型已存在,或使用 ollama run mymodel 测试推理。

参考来源

ollama/ollama #7327
补充参考:ollama/ollama #13314

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

celebrityanime
celebrityanime
文章: 14550

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注