Update on rate limits in Codex. We do see that for some users the cache hit rate has been worse this week than the stable state the weeks before. This could explain that usage is draining somewhat faster for those use…

OpenAI 工程师承认 Codex 本周缓存命中率下降,导致部分用户的额度消耗比平时更快,团队正在排查并承诺明日更新进展。这不是 Codex 功能故障,却直接关系到开发者的使用成本和额度规划。

一句话看懂:OpenAI 工程师承认 Codex 本周缓存命中率下降,导致部分用户的额度消耗比平时更快,团队正在排查并承诺明日更新进展。这不是 Codex 功能故障,却直接关系到开发者的使用成本和额度规划。

事件核心:发生了什么

OpenAI 工程师 Thibault Sottiaux 在 X 平台发布说明,称 Codex 产品本周的缓存命中率(cache hit rate)表现差于此前数周的稳定状态。缓存命中率是衡量 API 调用效率的关键指标之一:当重复请求命中缓存时,系统无需重新计算全部 token,消耗的额度也更少。Sottiaux 指出,缓存命中率下滑意味着部分用户在同一逻辑调用下会更快耗尽配额,即“额度消耗变快”。他表示团队正在调查,并会在次日给出更新。该帖文引发大量开发者回响,评论区出现两类典型反馈:一类用户要求 OpenAI 补偿 5 次重置额度,另一类则质疑问题并非本周才出现,称此前就存在“未使用却扣额度”的异常情况。

为什么重要

Codex 是 OpenAI 面向编程场景推出的智能体产品,其计费模式与 API 推理 token 量直接挂钩,缓存机制在降低成本上起到关键作用。对 OpenAI 而言,缓存命中率的稳定性直接影响开发者对产品成本的预期——如果系统不可控地降低命中率,相当于变相涨价。对 AI 编程工具赛道而言,这一事件再次暴露了当前大模型推理成本在真实工程负载下的波动性:头部厂商可以在宣传中给出较低价格,但真实用量取决于缓存策略、提示词结构等灰色变量。这也是闭源 API 商业模式里用户难以审计的部分,本次公开说明虽披露了问题,却也凸显了信息不对称带来的信任成本。

对用户/开发者/创作者的影响

对依赖 Codex 进行日常开发的程序员和团队负责人来说,最直接的影响是额度规划变得更不可控。当命中率下降时,同等工作量消耗的配额更多,超出预期的费用可能出现在月度账单上。开发者在应对上有两个现实层面:一是短期内需要更频繁地监控自己的额度消耗曲线,在问题修复前适当降低高频重复请求的任务密度;二是对依赖 Codex 做自动化任务(如批量重构、批量测试生成)的用户,应预留比平时多出 10%-20% 的缓冲额度。对于非编程类的 AI 创作者,本次事件暂时没有直接影响,但它提示一个更普遍的风险:当模型厂商以“额度”而非“固定时长”计费时,后端效率波动随时可能改变用户的实际使用成本。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息显示,OpenAI 官方承诺明日提供排查更新,外界可重点观察以下几点:第一,缓存命中率是否在短期内恢复正常,还是问题长期存在需要架构调整——这决定了是一次性波动还是计费逻辑的系统性缺陷;第二,OpenAI 是否会对受影响用户做出额度补偿,评论区中“5次重置额度”的诉求若被采纳,将是一个重要的用户关系信号;第三,其他依赖大模型 API 的编程工具(如 GitHub Copilot、Anthropic 的 Claude Code 等)是否会跟进公布更透明的缓存与配额数据,从而推动行业在额度计算上建立更清晰的透明度标准。

来源:Follow Builders · X · Thibault Sottiaux

celebrityanime
celebrityanime
文章: 19664

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注