Inkling-Small

Thinking Machines 发布了开源模型 Inkling-Small——一个总参数 276B、激活参数仅 12B 的 MoE(混合专家)模型,体积只有 Inkling 的四分之一,但在推理、智能体工具调用和指令跟随等任务上表现接近甚至反超。对开发者而言,这是用更低算力成本获得接近旗舰模型能力的新选择…

一句话看懂:Thinking Machines 发布了开源模型 Inkling-Small——一个总参数 276B、激活参数仅 12B 的 MoE(混合专家)模型,体积只有 Inkling 的四分之一,但在推理、智能体工具调用和指令跟随等任务上表现接近甚至反超。对开发者而言,这是用更低算力成本获得接近旗舰模型能力的新选择。

事件核心:发生了什么

Thinking Machines 近日正式发布 Inkling-Small 并公开完整权重。该模型采用混合专家架构,总参数量 276B,每个 Token 仅激活 12B 参数,训练在 NVIDIA GB300 NVL72 系统上完成。与 Inkling 一致,Inkling-Small 原生支持音频与图像输入、支持最高 1M Token 上下文,并保留了可调节思考强度(reasoning effort)的设计,用户可以在 minimal 到 xhigh 之间权衡延迟、成本与效果。

官方测试数据显示,在 Terminal-Bench 2.1(智能体工具调用)、HLE 文本推理(无工具)和 IFBench(指令跟随)三项基准上,Inkling-Small 的“每单位算力产出”优于 Inkling,并在同类规模开源模型中具备竞争力。模型还支持在 Tinker 平台上进行微调,并提供文本、图像、音频对话的 Playground 试用入口。

为什么重要

Inkling-Small 最值得关注的点不是“更小”,而是它采用了后训练策略的改进:团队先以 Inkling 为教师模型做 on-policy 蒸馏,得到 preview 检查点,再继续两周的智能体编码强化学习,最终使小模型在推理和 Agent 编码任务上超过大模型。这个路径说明,小模型的竞争力不只取决于预训练规模,后训练的数据配比与强化学习策略同样能拉开差距。

另一个信号是成本。Inkling-Small 的输出定价为每百万 Token 1.20 美元,而 Inkling 是 4.05 美元,价差超过 3 倍。叠加 MoE 架构的激活参数优势,这会对闭源 API 和同档位开源模型形成明确的价格压力。

对用户/开发者/创作者的影响

开发者:12B 激活参数意味着推理基础设施门槛显著降低,适合在 Agent 工具调用、编码辅助等高频场景中替代更大模型。完全开源的权重也便于私有化部署和数据控制。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

普通用户与创作者:原生多模态能力(音频、图像输入)配合 1M 长上下文,可以直接用于长文档分析、音视频内容理解等场景,而不必在多个专用模型之间切换。

企业采购:价格下降了一半以上,同时保留可控的思考强度选项,企业在批量处理任务时能更精确地控制推理预算。

值得关注的后续

一是实际部署反馈:官方基准成绩能否在真实 Agent 工作流中复现,是评估这款模型的关键。二是竞品跟进:DeepSeek、Qwen、Kimi 等同赛道的开源模型是否会调整推理价格或发布对位轻量版本。三是生态建设:Inkling-Small 在 Hugging Face 与 Tinker 上的微调社区活跃度、以及周边工具链是否跟得上,会直接影响它能否从小众发布走向规模化落地。

来源:Hacker News · 24h最热

celebrityanime
celebrityanime
文章: 16156

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注