Chatkit

Chatkit

在 openai-python 2.3.0 中直接调用 openai.chatkit.sessions.create 会报错(无 chatkit 属性),因为 Chatkit 已迁移到 Beta 命名空间下,正确的调用方式是使用 client.beta.chatkit.sessions.create

动态工作流中Claude Code的token消耗削减80%

动态工作流中Claude Code的token消耗削减80%

有开发者在 HN 分享动态工作流优化实践,声称将 Claude Code 的 token 消耗削减了 80%。相比具体数字,这篇讨论的价值在于展示了大模型编码工具在复杂任务下实际可被大幅压缩的推理开销,以及动态上下文管理带来的真金白银的算力节省。

How we monitor internal coding agents for misalignment

How we monitor internal coding agents for misalignment

OpenAI 首次公开了其内部代码智能体的监控系统,用 GPT-5.4 Thinking 实时审查智能体的思考链和操作,目的是在真实工作流中识别“意图不一致”的行为。值得关注的是,这是少数几家前沿实验室公开披露此类内部安全基础设施的案例。

详解 大语言模型 的 KV 缓存工程

详解 大语言模型 的 KV 缓存工程

KV 缓存是制约大模型推理成本与速度的关键因素,本文梳理了业界减少 KV 缓存占用的 12 种工程技术,覆盖模型架构改动、量化压缩到推理引擎调度优化,为开发者在显存、速度和效果之间做取舍提供了完整参照。