
ollama create Error: open config.json: file does not exist
快速结论:当在 Modelfile 中使用 FROM 指定单个模型文件(如 .bin 或 .safetensors)而非模型目录时,Ollama 无法找到同级的 config.json 文件,导致此错误。优先检查 Modelfile 中的 FROM 路径是否指向目录而非文件。
问题场景
用户使用 ollama create 命令从本地模型文件创建自定义模型,Modelfile 中 FROM 指定了单个权重文件路径(如 pytorch_model.bin),Ollama 在读取模型时找不到所需的 config.json。操作系统为 Windows,Ollama 版本 0.3.13。
报错原文
Error: open config.json: file does not exist
原因分析
可能原因:Ollama 的 FROM 指令需要指向包含模型文件的目录,而不是直接指向单个文件(如 pytorch_model.bin 或 model.safetensors)。当指定单个文件时,Ollama 会在该文件所在路径的上层搜索 config.json,但实际配置文件通常与权重文件位于同一目录下,导致找不到。此外,Ollama 官方仅正式支持 safetensors 格式,从 PyTorch 的 .bin 权重转换可能因缺少足够信息而失败。
环境排查
- Ollama 版本:0.3.13 或更早版本(该问题在后续版本中可能已修复,但路径规则一致)
- 操作系统:Windows(涉及路径分隔符)
- 模型格式:PyTorch 格式(
.bin)或safetensors格式 - 确认模型目录中包含以下必要文件:
config.json、tokenizer.json或tokenizer_config.json(如适用)
解决步骤
- 修改 Modelfile:将
FROM路径从单个文件改为指向包含模型文件的目录。例如,将:
FROM .\export\pytorch_model.bin
改为:
FROM .\export
确保config.json文件与模型权重文件位于同一目录下(即.\export\目录中)。 - 如果使用
safetensors格式:也可将目录作为FROM目标,例如:
FROM ./my-model-folder
(错误示例:FROM ./my-model-folder/model.safetensors❌) - 检查文件命名:若模型使用
adapter_model.safetensors等非标准名称,Ollama 可能无法识别。可尝试重命名为model.safetensors后再将目录作为FROM目标(社区用户反馈此方法有效)。 - (可优先尝试)如果仍需指定单个文件,可确保该文件与
config.json位于同一目录,但不推荐,因为 Ollama 处理单个文件时可能仍会报错。最可靠的方案是始终指向目录。
验证方法
重新运行 ollama create mymodel -f D:\path\to\Modelfile。如果不再出现 Error: open config.json: file does not exist,且模型成功创建,则问题解决。可通过 ollama list 确认新模型已存在,或使用 ollama run mymodel 测试推理。



