MixTok 混合视觉分词器:1D 全局加稀疏 2D,降低图像 token 预算

Hugging Face Papers 收录的论文 MixTok 提出一种混合视觉分词方案:用紧凑的一维全局 token 打底,再按内容复杂度稀疏补充二维局部 token。在相同平均 token 预算下,图像重建与生成的评测指标表现有竞争力,指向“按需分配算力”的视觉 tokenization 路线。

Hugging Face Papers 收录的论文 MixTok 提出一种混合视觉分词方案:用紧凑的一维全局 token 打底,再按内容复杂度稀疏补充二维局部 token。在相同平均 token 预算下,图像重建与生成的评测指标表现有竞争力,指向“按需分配算力”的视觉 tokenization 路线。

Artificial Analysis 发布 AA-3D 基准,用交互式 3D 场景任务评测 AI 模型,发现排名靠前的模型会更早查看自己生成的画面并开始浏览器测试,而这一行为与 Elo 排名高度相关。

alphaXiv 于 2026 年 10 月 7 日展示的论文提出 CoTrace 数据配方,让终端智能体的运行时(harness)与模型权重交替进化,在 Tmax 评测中将 Qwen3.5-9B 解决任务数从 78 提升至 88(SFT)或 90(在线 RL)。

alphaXiv 上一篇论文指出,即使显式关闭大模型的思考模式或要求“只给答案”,模型仍经常输出推理过程,作者把这种现象称为“思维惯性”,并认为“不思考”应作为独立能力来评测。

alphaXiv 上挂出的一篇论文提出 Sonic-AMG,尝试让角色在声音还在持续输入时就同步生成动作,而不是等整段空间音频播完再离线生成,目标是解决流式场景下的训练与推理错位问题。

alphaXiv 上公开的一篇论文提出 ReplaySSM,把 SSM 的循环状态改写成“检查点+近期输入缓冲”,在 vLLM 上实现 Mamba-2 与 Gated DeltaNet 的解码加速,最高约 1.47 倍,并让投机解码的驳回只动指针、不恢复状态。

Hugging Face Papers 收录的论文提出“无状态语言代理”(SLA):不让代理带着越滚越长的对话历史反复调模型,而由执行框架统一保存研究状态,每次只给代理重建针对性上下文。论文摘要称,在软件工程、内核优化和算法设计任务上,SLA 最终结果均最好,并以少 84% 以上 Token 达到最强内核基线…

2026年10月8日,alphaXiv 发布论文 LeWAM,提出将动作预测与潜在动态模型联合训练的端到端 JEPA,在视觉规划基准上成功率从 28.6% 提升至 89.7%,规划速度提升 32.3 倍。

AlphaXiv 上 2026 年 10 月发布的一篇论文提出 Dream to Remember(D2R),让冻结的通用机器人策略通过一个小型“操控模块”学习新任务,同时用冻结的世界模型“脑补”旧任务来防止遗忘。在 CALVIN 和 LIBERO 的连续任务评测中,它比直接微调策略的遗忘问题明显更轻。

Hugging Face Papers 收录的一篇论文提出 Semi-OPD:用初始学生模型自己生成的离线轨迹来蒸馏,在 17 组教师—学生模型对比中 14 组优于当前流行的 on-policy 蒸馏(OPD),最高准确率提升 13.6%,训练提速 11.4 倍。它提醒开发者:on-policy 采样并非总是…