Show HN: Claude-thermos 为你的 Claude 会话保温

开源工具 claude-thermos 解决了 Claude Code 在长对话中因子 Agent 执行超时而导致主会话缓存过期、被迫高成本重编码的问题,据实测可节省约 22% 的 API 费用。

Show HN: Claude-thermos 为你的 Claude 会话保温

一句话看懂:开源工具 claude-thermos 解决了 Claude Code 在长对话中因子 Agent 执行超时而导致主会话缓存过期、被迫高成本重编码的问题,据实测可节省约 22% 的 API 费用。

事件核心:发生了什么

开发者 Izeigerman 在 Hacker News 上发布了开源项目 claude-thermos。Claude Code 的 prompt 缓存(cache)采用 5 分钟 TTL,当主 Agent 等待子 Agent 返回超过 5 分钟时,主会话的缓存会过期,后续对话必须以 1.25 倍价格的写入模式(write rate)重新编码全部历史内容,而非以 0.1 倍价格从缓存读出。claude-thermos 通过在本地运行的反向代理,监控 API 流量,检测主 Agent 空闲而子 Agent 仍在运行的“危险窗口”,并定时发送一个仅含 1 个 token 的“保温请求”以刷新缓存。实测约 185 个本地会话显示,此类缓存重建占总费用的 22%,claude-thermos 确保缓存不冷,从而避免这笔额外开销。

为什么重要

该工具揭示了一个经常被忽视的 API 成本结构:在多 Agent 协作模式下,缓存过期导致的额外重编码费用可能占比显著。目前 Claude Code 对缓存过期问题缺少自动化管理,而 claude-thermos 通过一个小型本地代理实现了精准的缓存维护。这不仅降低了用户的 API 账单,也对 Anthropic 的 API 设计提出一个隐性问题:是否应当在 SDK 或平台层面提供缓存保活机制,而非让开发者通过第三方变通解决。对于以推理成本为核心变现模式的 AI 公司来说,此类工具的流行可能挤压其短期收入,但会提升用户忠诚度和应用深度。

对用户/开发者/创作者的影响

对于使用 Claude Code 进行复杂任务(如代码审查、多 Agent 协作开发)的开发者,claude-thermos 可以直接降低使用成本,尤其当会话时长超过 5 分钟且频繁调用子 Agent 时效果明显。该工具无需修改现有工作流,仅需通过 uvx claude-thermos 替代原有启动命令,并记录详细的节省日志。不过,它要求 Python 3.11+ 环境,且需要 Claude CLI 已安装在 PATH 中。对于企业用户,这个工具提供了一个快捷的省钱方案,但安全合规团队需留意本地反向代理对 API 流量的监听行为。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息显示,该工具仅针对 Claude Code,但原理可适用于任何使用类似缓存机制的大型语言模型 API。值得观察的三点是:其一,Anthropic 是否会官方回应或在 API 产品中加入缓存保活功能;其二,是否有竞品(如 OpenAI 的 Codex、GitHub Copilot)在 caching 机制上跟进类似优化;其三,该工具的开发者生态能否壮大,例如是否支持多模型或提供可视化面板。来源:Hacker News (黑客新闻)

celebrityanime
celebrityanime
文章: 14995

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注