Intern-Decision:0.8B至4B多模态决策模型,4B准确率90.02%,单次推理44毫秒

Hugging Face Papers 收录的论文摘要显示,Intern-Decision 提出 0.8B、2B、4B 三档多模态决策模型,用自回归掩码语言建模直接输出结构化选项和候选概率,试图把智能体里的“下一步选什么”从自由文本生成变成轻量分类任务。

一句话看懂:Hugging Face Papers 收录的论文摘要显示,Intern-Decision 提出 0.8B、2B、4B 三档多模态决策模型,用自回归掩码语言建模直接输出结构化选项和候选概率,试图把智能体里的“下一步选什么”从自由文本生成变成轻量分类任务。

事件核心:发生了什么

根据 2026 年 10 月 15 日公开的论文摘要,Intern-Decision 是一组面向决策场景的多模态模型,参数规模为 0.8B、2B 和 4B。它不生成自由形式的回答,而是从文本和可选图像中返回结构化选择与候选概率。

方法上,模型在完整的 assistant JSON 骨架中为每个字段放置一个决策占位符,真实符号只出现在监督信号里;所有字段通过骨干网络原生语言模型头,在一次因果前向传播中完成评估。

摘要给出的数据包括:4B 模型在七个评测套件上的未加权平均准确率为 90.02%,对比对象 Jev v1.13.0 为 88.74%;在固定 289 token 请求、三个字段、单张 RTX 4090 的条件下,4B 模型平均延迟 44.16 毫秒,较小模型约 33–34 毫秒。另有 96 例已知分布试点显示,温度缩放把多分类 Brier 从 0.628 降到 0.550,校准误差从 0.213 降到 0.089;在 111 条公开 Jevbench-Hard 项目上,基于置信度将 42 条路由给 Atria-Dawn-Preview 后,准确率从 82/111(73.87%)提升到 97/111(87.39%)。摘要还提到游戏、视觉界面和浏览器演示,但未说明这些演示是否已产品化。

为什么重要

当前多数 AI 应用在决策节点仍依赖大模型生成文本再解析,链路长、延迟高、接口不稳定。Intern-Decision 的思路是把决策压缩成一次前向传播中的字段预测,用较小参数模型完成选项打分和概率输出,这契合智能体系统对低延迟、可校准和结构化接口的需求。

如果这种路线成立,行业竞争可能从“谁的大模型更会聊天”部分转向“谁的决策模块更便宜、更准、更容易嵌入现有 API 和工作流”。对于需要频繁选择动作、标签或有序结果的场景,小模型加置信度路由可能比单一大模型更实用。

对用户/开发者/创作者的影响

对开发者,最直接的价值是接口形态:模型返回结构化字段和概率,便于后端做规则判断、阈值路由或人工接管,而不必依赖脆弱的 JSON 解析。0.8B 到 4B 的尺寸也意味着可以在单张 RTX 4090 上评估推理延迟。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对做 AI 应用和智能体产品的团队,置信度分流值得关注:低置信样本交给更强模型或人工处理,可能同时改善体验和成本。对创作者和企业采购而言,目前公开信息仍限于论文摘要,是否开源、是否提供 API、定价和商用许可都未明确,暂时不宜按已上线产品评估。

值得关注的后续

一是模型权重和推理代码是否开放,以及是否有可复现的评测脚本;二是 Jevbench-Hard 等基准上的结果能否被独立验证,尤其是校准和路由策略在不同任务上的泛化;三是这类小模型决策模块会不会被集成进主流智能体框架,并出现对应的 API 或商业服务。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 29279

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注