MMDM基准发布:5448题测决策模型,单多选与约束规划短板明显

Hugging Face Papers 于 2026 年 11 月 10 日收录论文,提出 MMDM 基准,用 5,448 道题评估 System-1 决策模型;结果显示模型在世界知识上表现不错,但在选项逻辑、约束规划和多选任务上明显吃力。

一句话看懂:Hugging Face Papers 于 2026 年 11 月 10 日收录论文,提出 MMDM 基准,用 5,448 道题评估 System-1 决策模型;结果显示模型在世界知识上表现不错,但在选项逻辑、约束规划和多选任务上明显吃力。

事件核心:发生了什么

论文提出 MMDM(Massive Multitask Decision Making)基准,包含 16 个任务类别的 5,448 道高质量题目,混合新构建任务与基于来源的重组、改写,覆盖单选、多选和软标签决策。场景包括智能体状态跟踪、工具与技能选择、偏好判断和评分量表打分;选项空间从 2 到 1,024 个,输入长度最高 64,817 tokens。作者用它评测 28 个决策模型。目前公开信息仅来自摘要,全文实验尚未核验。

为什么重要

现有评测多依赖既有基准,模型可能已“见过”测试材料,难以判断真实泛化能力。MMDM 把长上下文、大选项空间和复杂逻辑依赖放在同一套题里,试图补上现有基准覆盖不足的空白。对决策模型路线而言,这意味着除了“答对知识题”,还要考察联合推理、约束感知选择和多选完整回收。摘要数据显示,Perplexity Decider-V1.2 在世界知识 Hard Single-select 准确率为 78.75%,但选项逻辑为 53.95%、约束规划为 47.95%;所有模型中 Hard Multi-select 最高准确率仅 36.81%。

对用户/开发者/创作者的影响

对开发者,MMDM 可作为评估智能体工具选择、状态跟踪和多选决策能力的测试集,尤其适合检查模型在长上下文和大选项空间下的稳定性。对应用团队,选型时不能只看常识问答分数,应关注约束规划和多选任务表现。对创作者和普通用户,这意味着依赖模型做复杂选项判断时仍需人工复核;目前公开信息显示,基准本身尚未变成可直接调用的 API 或产品功能。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 MMDM 是否开源题目与评测脚本,方便开发者复现;二是后续模型是否针对多选完整回收和约束规划做专门优化;三是该基准能否进入主流模型评测体系,形成可比较的长期指标。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 34217

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注