不能写作的模型 Jev 如何削减智能体账单,Kimi K3 兜底

社区文章介绍了一套“Jev Engineering”方法:用 TypeSafe AI 的 Jev 模型只回答智能体中的小决策问题,并按校准置信度把不确定项转给 Kimi K3,从而压缩调用前沿大模型的成本。

一句话看懂:社区文章介绍了一套“Jev Engineering”方法:用 TypeSafe AI 的 Jev 模型只回答智能体中的小决策问题,并按校准置信度把不确定项转给 Kimi K3,从而压缩调用前沿大模型的成本。

事件核心:发生了什么

2026 年 9 月 29 日,X 用户 @Mr_Buzzoni 发布文章,提出智能体运行中大量调用并非在生成内容,而是判断下一步用哪个工具、来源是否相关、任务是否完成等小决策。这些调用按前沿大模型完整生成计费,成为账单大头。9 月 15 日亮相的 TypeSafe AI 推出 Jev 模型,不写文本,只接收状态和类型化问题,返回带概率的答案,通常在约 100 毫秒内完成,每百万输入 token 收费 0.042 美元,输出免费。按作者说法,在 TypeSafe 自己的工作流评测中,Jev 比所对比的 LLM 快 193.6 倍、成本低 444.6 倍,但公司也承认这是预期中的高值。作者称 Jev 使用 RLCD 训练,目标是让 90% 置信度的答案约有 90% 正确。案例中,Hassan 用 Jev 在 1.42 秒内分类 100 封邮件,把置信度低于 95% 的 31 条转给 Kimi K3,整条流水线 16 秒内答对 96/100,花费约 0.07 美元。

为什么重要

目前公开信息显示,这一思路把智能体成本拆成两层:确定性的判断交给小模型,复杂阅读交给大模型。对行业而言,它提示推理成本优化不只靠降价或算力,还靠任务分层和置信度路由。若诚实置信度能在更多数据上验证,企业自动化流程中“可否交给机器”的边界会更清晰。不过,评测数据来自作者转述的单一工作流,尚不能视为通用排名。

对用户/开发者/创作者的影响

开发者可先梳理智能体转录,把步骤分成写作、简单判断、复杂判断等类别,再把低风险判断路由给 Jev 类模型,并设置置信度阈值。对用 API 构建 AI 应用的团队,这意味着账单结构可能改变;对普通用户,前端体验变化不大,但工具型智能体可能更便宜、更快。需要注意,Jev 不生成内容,不能替代 Kimi K3 这类大模型,且低置信度分流会增加工程复杂度。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 Jev 的置信度校准能否在更多真实任务中复现;二是按置信度路由是否形成稳定 API 或开源实现;三是 Kimi K3 等闭源模型是否会推出针对“兜底阅读”的定价策略。

来源:社区更新 · 2026-11-09

celebrityanime
celebrityanime
文章: 33842

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注