VisionWeave 提出弹性视觉表征,省 43% token 保 98.9% 性能

多模态大模型开始学习"按内容分配视觉算力"——VisionWeave 让模型自己判断哪里要看细、哪里可以压缩,平均省下 43% 视觉 token,同时保留 98.9% 的原始性能。

一句话看懂:多模态大模型开始学习”按内容分配视觉算力”——VisionWeave 让模型自己判断哪里要看细、哪里可以压缩,平均省下 43% 视觉 token,同时保留 98.9% 的原始性能。

事件核心:发生了什么

据 Hugging Face Papers 于 2026 年 10 月 6 日收录的论文摘要,研究者提出 VisionWeave,把”弹性视觉表征编织”(elastic visual representation weaving)定义为多模态大模型的一项原生能力。

现有主流做法是把图像切成密集、固定尺寸的 patch token 编码,但视觉信息分布并不均匀:一些区域需要精细细节,另一些区域用紧凑表示即可。固定下采样会丢细节,已有的 token 剪枝和自适应方案在内容自适应粒度、任务泛化、以及与主流 MLLM 和推理服务框架的整合上仍有局限。

VisionWeave 由两个组件构成:一是门控空间池化器,在共享的 MRoPE 坐标下同时构建粗粒度与原生细粒度表示;二是粒度路由器,学习按内容自适应分配。摘要显示,仅靠自蒸馏即可在 Qwen3.5-4B 上验证该能力,并扩展到 Qwen3.8-27B,消耗超 30K A100 GPU 小时。

基于 Qwen3.8-27B,该方法在八个基准上平均节省 43.0% 的 token,同时保留 98.9% 的原生性能;对比固定 50% 节省目标的 token 剪枝基线,性能保留仅约 88%。在 SGLang 推理引擎上部署时,吞吐提升 2.3 倍,平均 TTFT 降低 54.4%,平均 TPOT 降低 60.6%。需要说明的是,以上均为论文摘要陈述,并非已上线产品,也未标注同行评审状态。

为什么重要

多模态大模型的推理成本,很大一部分来自视觉 token 的规模。VisionWeave 的思路不是”砍掉一部分 token”,而是让模型端到端地学习”在哪里、以什么粒度”分配视觉表示。这一路线如果能被复现和规模化,可能影响下一代 MLLM 的架构设计和推理服务栈。

此外,论文强调与 MRoPE 坐标、SGLang 等现代服务基础设施的整合,而不是只在离线评测里做 token 压缩,这更贴近实际商业部署对吞吐和延迟的要求。

对用户/开发者/创作者的影响

对开发者而言,如果这套弹性表示后续开源或进入主流模型,长视频、高分辨率图像分析这类成本敏感场景可能受益:同样算力下能处理更多帧或更高分辨率。对使用多模态 API 的应用方,token 节省若转化为定价或延迟优势,会直接影响产品体验和单位成本。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对创作者来说,图文、视频理解类工具可能变得更快、更便宜,但模型仍要判断哪些区域”值得细看”,细粒度内容的表达是否被压缩仍取决于具体实现。目前公开信息仅限论文摘要,不建议据此判断实际可用性和精度边界。

值得关注的后续

1. 是否开源代码与模型权重,以及能否在 Qwen 以外的基座上复现。

2. 八个基准之外的长尾任务、低分辨率或高帧率视频场景中,43% token 节省是否稳定。

3. SGLang 上的吞吐与延迟收益,在其他推理引擎和真实生产负载下是否同样成立。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 28866

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注