Baseten 推出 2B 决策模型 joey-1：每百万 Token 仅 0.01 美元

一句话看懂：Baseten 旗下 Base Labs 于 2026 年 10 月 29 日发布 2B 决策模型 joey-1，它只输出标签和校准概率，不生成自由文本，在 Model APIs 上每百万输入 Token 收费 0.01 美元，权重以 MIT 协议开放在 Hugging Face。

事件核心：发生了什么

joey-1 是 Base Labs 决策模型家族第三个成员，前两个是 27B 的 mammoth-1 和 9B 的 elephant-1。它基于 Qwen3.5-2B 做了全量微调，视觉编码器保持冻结，训练数据为 621 万条决策样本。使用时输入一段状态（文本或图像）和若干问题，模型在一次前向计算中为每个选项返回概率，支持 choice、yes/no、score 三类问题。

官方称，平均 2000 Token 的请求 P50 端到端延迟为 20 毫秒，约为 elephant-1 的 2.5 倍快。Model APIs 限制最大上下文 16384 Token，专用部署为 262k；官方未公布自托管所需显存，也未提供量化版本。

为什么重要

这类模型瞄准高并发场景：工单路由、内容分类、护栏检查。这些任务不需要模型“会说话”，只需要稳定给出判断和置信度。Baseten 在损失函数中加入 Brier 校准项，用户可设置置信阈值，把不确定结果升级给更大的 elephant-1、mammoth-1 或人工处理，形成分层推理的成本结构。

价格是主要卖点。官方举例：每月 1000 万张工单、每张约 500 Token，共 50 亿 Token，joey-1 约 50 美元，mammoth-1 约 500 美元。对需要大规模调用的 AI 应用来说，决策环节的单位成本被压到很低，但前提是任务确实适合结构化判断，而不是开放式生成。

对用户/开发者/创作者的影响

开发者可直接调用 /v1/systemone API，在家族三个模型间切换只需改一行；权重开放也为自托管提供可能。值得注意的是，所有评测均为 Baseten 自报：在 Jev Decision Index 0.4 公开集上得 63.30，在 4B 以下模型中居首，但落后 elephant-1 的 72.24 约 9 分，通用知识能力也弱于更大模型。该指数由社区维护，分数应视为特定时间、特定测试集下的参考，而非永久排名。