一句话看懂:前 OpenAI 研究员、InstructGPT 论文作者 Diogo Almeida 发布新模型 Jev,它不做自然语言生成,而是直接输出结构化决策和概率,在决策类任务上比传统大模型快 20-200 倍、成本低 40-400 倍。这条路线试图把 AI 从”每次写小作文”变成软件里廉价的 if 判断。
事件核心:发生了什么
Diogo Almeida 是 ChatGPT 早期核心研究者之一,也是 InstructGPT 论文作者。他透露自己过去两年在隐身状态下研究一个问题:为什么对话模型已经足够聪明,AI 却没能真正接管大规模软件自动化。他的结论是,传统 LLM 做一次判断必须先生成文字或 JSON,再由软件解析执行,这层”说话”本身就是瓶颈。
Jev 的做法是砍掉这一层:输入问题后,模型直接输出结构化决策与概率,不生成自然语言。适用场景包括交易是否欺诈、用户进入哪个流程、下一步调用哪个工具、请求批准还是拒绝。官方给出的数据是速度快 20-200 倍、成本低 40-400 倍,输出 Token 不计费,延迟最低约 70ms。其训练方法名为 RLCD(Reinforcement Learning for Calibrated Decisions),训练目标不是把答案说得更好,而是让模型声称有 90% 把握时,实际正确的概率也接近 90%。同一时间,TypeSafe 宣布完成 4000 万美元种子轮融资,由 DCVC 领投。
为什么重要
当前 Agent 的主流做法是把上下文读取、思考、生成文字、调用工具全部交给一个大模型,这在演示阶段可行,但大规模部署后成本和延迟都难以承受。Jev 指向的是分层架构:大模型负责少量复杂推理与规划,Jev 这类模型承担海量、毫秒级、接近普通代码成本的决策,对应常说的 system1 与 system2 分工。如果这条路走通,下一阶段 AI 基础设施的竞争重点可能不只是”谁的模型更聪明”,而是谁能把智能的单价压到可以塞进软件的每一个判断里——这也直接关系到推理算力的经济性。
对用户/开发者/创作者的影响
对开发者而言,最直接的变化是API 调用模式可能分化:需要解释、写作、创意生成的任务继续用大模型;高频、规则明确的判断则可以换成这类决策模型,Token 免费意味着调用成本结构会变。企业采购侧,如果概率输出校准可靠,风控、审批、路由、工单分派等流程有机会从”人工写规则”转向”模型直接出判断”。对创作者和普通用户,短期内感知不强,因为这类模型不产出可读文本;它更可能藏在后台,让产品响应更快、订阅价格压力更小。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是 Jev 是否开放可测试的接口,以及 20-200 倍、40-400 倍这类数据在第三方场景下能否复现。二是校准这件事本身——”说有 90% 就真有 90%”目前只是官方说法,需要独立评测验证,这决定了它能否进入金融、医疗等强合规领域。三是大厂是否跟进,OpenAI、Anthropic 等是否推出类似的非生成式决策接口,以及开源社区会不会复现 RLCD 路线。
来源:@MaxForAI


