一句话看懂:AIbase 报道称,Claude 自研推理引擎在同等硬件下把 P90 首 token 延迟从 SGLang 的约 12 秒降到 0.48 秒;同时 Claude Opus 5.5 搭配 Claude Code 在 Singularity-Bench 六项 AI 研发任务中取得五胜一平,总分超过人类基线。
事件核心:发生了什么
根据 AIbase 于 2026 年 11 月 20 日发布的内容,卡内基梅隆大学等机构的研究者推出了 Singularity-Bench 基准,包含六项与 AI 研发相关的任务,用来评估智能体自主建设 AI 研发基础设施的能力。测试中,Claude Opus 5.5 与 Claude Code 的组合拿到五胜一平,是唯一总分超过人类基线的参赛者。
性能层面,同一硬件条件下,Claude 自研推理引擎把 P90 首 token 延迟从成熟推理引擎 SGLang 的约 12 秒缩短至 0.48 秒;报道还提到其通过调度优化等方式提升了整体处理效率和 GPU 输出表现。需要说明的是,目前公开信息显示这属于测试与工程优化结果,并非已上线的通用 API 服务。
为什么重要
首 token 延迟直接决定交互式 AI 应用的等待感,12 秒到半秒的变化对编程助手、Agent 这类多轮工具调用场景尤为关键。推理引擎自研也意味着厂商在算力利用率和成本控制上多了一层主动权,不必完全依赖 SGLang 等开源推理栈。另一方面,Singularity-Bench 把“AI 自主改进 AI 研发设施”变成了可量化的评测,但研究者也明确,当前任务范围仍由人类设定,真正的递归自我改进尚待验证。
对用户/开发者/创作者的影响
对开发者来说,首 token 延迟下降如果落地到 API 和 Claude Code,意味着更快的补全、更顺的 Agent 循环,单位时间可跑更多工具调用步骤,高频调用场景的体验和成本结构都可能改善。对普通用户,最直观的是等待时间变短,长任务中的“卡住感”减少。对创作者,快速首响更适合即时改稿、多轮对话式创作。不过评测成绩限于该基准的六项任务和既定条件,不能理解为 Claude 在所有研发任务上长期领先。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是自研推理引擎是否以及何时进入正式 API 和产品线,延迟数据在真实流量下是否保持;二是第三方能否复现 Singularity-Bench 的结果,任务集是否会扩展;三是 SGLang 等开源推理栈及竞品厂商是否跟进类似优化。
来源:AIbase


