when using deepseek-r1:1.5b cannot get token usage

当使用 Ollama 调用 deepseek-r1:1.5b(或其它 DeepSeek-R1 量化模型)并请求 JSON 输出时,如果模型陷入重复生成、无法输出 EOS,会触发 token repeat limit,Ollama 就 不会回填 usage 字段 ,于是出现 usage 全为 0。优先

当使用 Ollama 调用 deepseek-r1:1.5b(或其它 DeepSeek-R1 量化模型)并请求 JSON 输出时,如果模型陷入重复生成、无法输出 EOS,会触发 token repeat limit,Ollama 就 不会回填 usage 字段 ,于是出现 usage 全为 0。优先

当 glm-ocr 或其它 OCR/文本补全模型输出的内容里含有大量连续重复 token(例如书籍习题里成排的句点“.”)时,Ollama 的“token repeat limit”循环检测会被误触发,提前中止生成并返回 "done": false 。优先排查模型输出中是否存在这类重复串,而不是先怀

这个报错通常出现在用 ollama launch claude 启动 Claude Code 并长时间对话、上下文逐渐填满时。Claude Code 侧按自己的默认上下文窗口做统计,而 Ollama 服务端实际只加载了更小的 num_ctx ,两者不一致,服务端就会截断输入。优先排查 Ollama

这个报错通常出现在使用 OpenAI Python SDK 的异步流式结构化输出(如 client.beta.chat.completions.stream() )并叠加 Langfuse 等埋点/包装库时,包装层让 AsyncStream 的 .response 指回自身而不是底层的 httpx.

报错 “Pydantic and JSON schemas need upgrade” 通常出现在把 Pydantic 生成的 JSON Schema 与 OpenAI Python SDK / Responses API 的 Structured Outputs 对接时,尤其在 schema 嵌套

CrewAI CLI 1.15.6 的测试套件(`tests/test_create_crew.py`)出现 20 个测试失败,核心原因是生成的 `pyproject.toml` 中 `crewai[tools]` 依赖约束被写成了 `>=1.15.6,<2.0.0`,而测试断言期望的版本是 `1.
![[BUG] Task output schema in the prompt marks Optional fields as required and strips null, so the model cannot express "not applicable"](https://www.chat-gpts.plus/wp-content/uploads/2026/09/6774-15a8d678-768x403.jpg)
这个报错通常出现在 CrewAI 使用 output_pydantic 定义任务输出、并在 prompt 内嵌 JSON Schema 时:prompt 里的 schema 把 Pydantic 模型中的 Optional 字段强行标成 required 且去掉 null ,导致模型无法表达“不适用

该问题通常出现在 Windows 上用一键安装脚本部署 TextGen WebUI 时,安装流程虽然没报错,但实际装成了 CPU 版 PyTorch,导致启动后无法调用 GPU。优先确认 PyTorch 是否为 CUDA 版、CUDA 是否真实可用,再考虑换用官方推荐的 WSL 安装方式。

这个报错通常出现在使用 numpy 1.* 并通过 llama.cpp 的 convert_hf_to_gguf.py 把较大模型转换为 Q8_0(以及 TQ1_0、TQ2_0)时,权重符号被静默破坏;优先检查 numpy 版本与 gguf/quants.py 中的 np_roundf 实现。

在 HIP(ROCm)后端下,当一个新序列的 prompt 行与另一个正在生成序列的 decode 行被放进同一个 llama_decode() batch 时,加入方序列(seq 1)的首个采样 token 就会出错,并退化成 3–7 个 token 的循环,但所有调用仍返回成功。优先确认是否在使