标签: AI

Structured outputs appear to be ignored for MLX models

Structured outputs appear to be ignored for MLX models

这个报错发生在 Ollama 的 MLX 执行路径上——当通过 format 字段传入 JSON Schema 时,MLX runner 会直接丢弃该字段,导致模型完全无视 schema 约束,返回自然语言而不是结构化 JSON。优先排查方式是确认当前模型是否真的走 MLX 引擎,并回退到非 MLX