Baseten 发布 joey-1：每百万 Token 一美分的决策模型，主打 20ms 响应

事件核心：发生了什么

2026 年 10 月 29 日，Baseten 宣布发布 joey-1。这与它上周由研究团队 Base Labs 推出的更大模型 mammoth-1、elephant-1 同属一个“决策模型”系列：输入问题，返回答案是/否或选项，并附概率分数，而不是生成一段文字。

joey-1 为 2B 参数，基于阿里 Qwen3.5-2B 构建，用 621 万条决策样本训练，权重以 MIT 许可证在 Hugging Face 免费开放。价格方面，Baseten 称每百万 Token 仅 0.01 美元；处理一条 2,000 Token 的典型请求约需 20 毫秒，比 elephant-1 快约 2.5 倍。以每月处理 1,000 万张客服工单计算，成本约 50 美元，而在 mammoth-1 上约 500 美元。

Baseten 称 joey-1 是 3B 参数以下最强的决策模型，但尚未公开支撑该说法的测试。其模型卡显示，joey-1 在 Jev Decision Index 的 230 个模型中排第 37 位，是 4B 以下参数模型中的最高分。需要说明的是，该排名仅限素材给出的评测条件与时间，并非永久结论。

为什么重要

大模型行业的成本竞争正从“生成得好不好”转向“判断得贵不贵”。大量 AI 应用并不需要长篇回答，只需要一个低延迟、可量化的分类结果：路由工单、标记垃圾内容、拦截有害提示词。决策模型把任务收窄到“答案 + 概率”，因此能大幅压缩推理成本与响应时间。

这同时给开源小模型打开了新的商业路径。joey-1 基于 Qwen 并免费开放权重，与微软本月同样基于 Qwen 构建、定价每百万 Token 0.042 美元的决策模型形成对照；TypeSafe AI 的 Jev 也在做同类事情。小参数、专用任务、超低价格，可能成为模型厂商差异化竞争的新方向。

对用户/开发者/创作者的影响

对开发者而言，joey-1 的价值在于把“判断层”从通用大模型里拆出来，用更低成本接入 API。若实际延迟与价格接近官方口径，高并发分类场景的推理预算会明显下降。对 AI 应用团队来说，这类输出概率的模型也便于设置阈值和人工复核流程，而不是直接相信生成文本。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对普通用户和创作者，影响更多是间接的：客服系统响应更快、内容审核成本更低，最终可能体现在免费或低价工具上。但 joey-1 只适合封闭式判断，不适合写作、对话或图像生成等开放式任务，不能把它当作通用助手。

值得关注的后续

一是 Baseten 是否公开支撑“3B 以下最强”说法的测试细节，以及 Jev Decision Index 排名后续是否变化；二是免费权重之外，托管 API 的实际价格、限流和延迟稳定性；三是微软、TypeSafe AI 等竞品是否跟进降价，以及开发者是否围绕这类决策模型形成工具链。

来源：The Next Web