一句话看懂:有开发者把 Codex 接到本机运行的 Qwen3.8 模型后,发现单次输出被限制在 3208 token,远低于 131072 的上下文窗口;问题出在 Codex 不识别本地模型的元数据,补齐配置后可把上限提到 16384。
事件核心:发生了什么
2026 年 11 月 20 日,作者郑世录在掘金发文,记录了自己用 Codex 对接本机 127.0.0.1:8080 服务上的 Qwen3.8 模型(RTX 5060 Ti 16GB、64GB 内存、131072 上下文)的过程。日常问答和改小文件都正常,但让它改一个两百多行的脚本时,返回被截断,提示 max_output_tokens,单次输出停在 3208 token,仅占上下文窗口的 2.4%。作者用 curl 直连该服务的 /v1/messages 接口测试,max_tokens 设成 8192、16384、32768 甚至 100000 都被服务端接受,说明瓶颈在 Codex 客户端一侧。根因是 Codex 启动时提示找不到该模型的元数据,回落到默认配置。作者给出的解法是生成 model-catalog.json 并在 config.toml 中引用,把 truncation_policy 的 limit 设为 16384。
为什么重要
本地开源大模型的推理服务已经能提供长上下文,但客户端工具对非官方模型的适配往往滞后。目前公开信息显示,Codex 的默认元数据并不包含本地模型的输出上限,于是能力更强的本地模型被客户端配置“锁死”。这不是模型能力问题,而是工具链兼容性问题。对同时使用闭源模型和本地模型的开发者来说,这类隐性上限会直接影响可用性,也解释了为什么同一个服务用 Claude Code 等客户端请求时没有这个限制。
对用户/开发者/创作者的影响
如果你也在 Codex 里接自建模型服务,可以先留意启动日志里有没有“Model metadata not found”的警告,有则大概率命中同一问题。作者给了三条路径:把任务拆小、换客户端,或补模型元数据。长期用 Codex 写代码的开发者适合第三条,一次配置对所有任务生效;只想先把眼前活干完的,拆任务成本更低。需要注意,文中数据来自作者单机环境,不代表所有模型或版本的默认行为。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是 Codex 后续是否会在模型目录中提供更通用的本地模型元数据模板,减少手动配置;二是其他编码客户端是否会跟进类似的自定义元数据机制;三是本地模型服务端的 max_tokens 处理与客户端截断策略如何对齐,避免出现“服务端支持、客户端截断”的错位。
来源:juejin


