Eval bug: LFM2.5 1.2 Thinking – Think tags displayed in content

问题场景

用户在 llama.cpp 中加载 LFM2.5 1.2B Thinking 模型进行对话推理时，模型的思考过程没有被解析到独立的 reasoning/thinking 字段，而是连同 <think> 标签一起显示在正常的 content 字段中。用户对比发现 b9473 及更早版本表现正常，b9474 之后开始出现该现象。

报错原文

Eval bug: LFM2.5 1.2 Thinking - Think tags displayed in content

原因分析

Issue 讨论确认，原因是该模型 GGUF 内置的 chat template 有问题。上游 Hugging Face 模型仓库已修复模板，但对应的 GGUF 文件当时没有同步更新，导致 llama.cpp 按错误的模板处理输出，<think> 标签只能原样出现在 content 中。因此问题不在 CUDA 后端或显卡，而是模型文件元数据层面的问题。

环境排查

• 确认当前使用的 GGUF 文件来源与下载时间，是否来自 LiquidAI/LFM2.5-1.2B-Thinking-GGUF 仓库修复前的版本。
• 确认 llama.cpp 具体构建版本（Issue 中为 0.4.0-dev build 10883，commit 91f6a6cf3）。
• 确认运行平台与后端（Issue 中为 Windows x86_64 + CUDA），但这大概率与问题无关。
• 可对比检查模型元数据中的 chat template 是否包含正确的 thinking 标签处理逻辑。

解决步骤

1. 前往 LiquidAI/LFM2.5-1.2B-Thinking-GGUF 仓库，重新下载官方重新上传的修复版 GGUF。
2. 用新下载的 GGUF 替换本地旧文件，确保加载路径指向新文件。
3. 重新启动 llama.cpp 对话，发送一个会触发思考过程的问题进行测试。
4. 若仍异常，记录所用 GGUF 来源与 llama.cpp 构建版本，到对应仓库反馈。

验证方法

观察模型回复：思考内容应出现在独立的 reasoning/thinking 字段中，content 字段不再直接出现 <think> 标签。报告者按此方式验证后确认问题已修复。

参考来源

ggml-org/llama.cpp #28675

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。