remote 模型输出被静默兜底为 16384：思考吃光 max_tokens，正文为空 / 长回复截断

问题场景

在 LobeChat v2.2.11 中添加 remote 模型（“从远端拉取”或自建 provider，例如 DeepSeek-V4.1-Flash），其模型记录不带 maxOutput。使用思考型模型进行长思考或要求长报告时，出现空回复、回答到一半中断、长回复必被截断；开新话题也无法规避，因为单条回复是实时撞限。内置模型（如声明 maxOutput=393216 的 deepseek-v4-flash）不受影响，只有 remote 模型命中该问题。

报错原文

u = s?.maxOutput && s.maxOutput > 0 ? s.maxOutput : Ru     // Ru  = 16384  ← 兜底
l = s?.contextWindowTokens > 0 ? s.contextWindowTokens : Lu // Lu = 128000

finish_reason=length
max_tokens=2000 → 正文 0 字（finish: length）
max_tokens=8000 → 23 字
max_tokens=16000 → 905 字（finish: stop）

✓ Batch updated
（回读 model list 时该字段根本不存在）

原因分析

最可能的原因是应用打包代码对输出预算做了硬兜底：remote 模型记录没有 maxOutput，于是 max_tokens 一律取常量 Ru = 16384，contextWindowTokens 兜底为 Lu = 128000。思考（reasoning）与正文（completion）共享同一份预算，思考吃满后触发 finish_reason=length，表现为正文为空或中途截断。

Issue 评论补充了另一层因素：LobeHub 在自定义 provider 请求路径中不转发 max_tokens，agent 的 params.max_tokens 无论设成 2000、3000、8192 还是 393216，每次输出都恰好是 4096；该值是中转服务自身的流式默认上限。对照实验显示，直连同一 key 与模型时，流式 + 不带 max_tokens 得到 4096，流式 + 32000 得到 8122，流式 + 393216 得到 8980，非流式 + 不带参数得到 16017——只有“流式且不带 max_tokens”会被卡住。对照在同模型上运行的其他自托管 Agent 平台无此问题，因此排除了模型或 provider API 本身的问题，指向平台封装层。

环境排查

• 确认 LobeChat 版本是否为 v2.2.11（Issue 报告版本），以及使用的是 Web、Electron 桌面端还是自托管 Docker；三者运行同一份代码。
• 确认出问题的模型是否为 remote 模型（远端拉取或自建 provider），并检查其模型记录是否带 maxOutput。
• 确认是否使用思考型模型（如 DeepSeek-V4.1-Flash），以及是否在 agent 中设置了 params.max_tokens。
• 如有中转层，确认其流式默认输出上限（Issue 中观察到为 4096）。
• Issue 未涉及 Python、CUDA、PyTorch、显卡或节点依赖，无需核对这些项。

解决步骤

1. 先确认问题范围：用同一模型、同一道题对比内置模型与 remote 模型，若只有 remote 模型出现空回复或固定截断，符合本 Issue 特征。
2. 用直连 API 扫描 max_tokens 做对照：Issue 中 16000 能返回完整 905 字（finish: stop），说明 provider 侧可正常输出长内容。
3. 在 agent 上设置 {"chatConfig":{"enableStreaming":false}}，让请求走非流式路径；这是 Issue 中已验证有效的规避方式。
4. 不要依赖给 remote 模型写 maxOutput 或 settings 来自救：Issue 中用 lh model batch-update 写入 maxOutput 虽返回 ✓ Batch updated，但回读时字段不存在，属静默丢弃。
5. 若需等待官方修复，可关注 Issue 期望的方向：允许 remote 模型写入或通过 UI 配置 maxOutput（或 provider 级输出上限）、把兜底值提到 32768 以上、以及在自定义 provider 请求路径中转发 max_tokens / max_completion_tokens。这些属于期望修复项，尚未在 Issue 中验证为已实现。

验证方法

关闭流式后重新提交原先无法完整回答的长 prompt（例如 Issue 中约 800 行的输入），观察回复是否完整输出且不再在固定长度处中断；Issue 中该场景输出为 7468 / 7343 tokens，明显高于流式路径固定出现的 4096。同时确认请求的 finish_reason 不再是 length。注意：这只是规避验证，remote 模型 maxOutput = 16384 兜底本身不会因此改变。

参考来源

lobehub/lobe-chat #21004

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。