Qwen模型学会在3D空间主动观察,ACT3D六项基准平均53.2%

Hugging Face Papers 收录的论文提出 ACT3D,让视觉语言模型(VLM)像人一样一次只看一张图,通过移动视角主动寻找证据后再作答,并在六项 3D 基准上取得平均 53.2% 的准确率。这一思路值得关注,因为它把“该看哪里”变成了模型自己学出来的能力。

一句话看懂:Hugging Face Papers 收录的论文提出 ACT3D,让视觉语言模型(VLM)像人一样一次只看一张图,通过移动视角主动寻找证据后再作答,并在六项 3D 基准上取得平均 53.2% 的准确率。这一思路值得关注,因为它把“该看哪里”变成了模型自己学出来的能力。

事件核心:发生了什么

根据 2026 年 10 月 15 日公开的论文摘要,研究者没有给 VLM 喂多视角图片、视频或 3D 表示,而是保留其原生单帧视觉编码,把 3D 场景当作可交互环境:模型从第一人称视角和一道视觉问题出发,可以反复推理、导航、调整朝向,再给出最终答案。训练分两步,先用轨迹监督做微调,再用强化学习优化,奖励主要来自答案是否正确,不直接告诉模型该访问哪些视角或做哪些动作。基于 Qwen 的 ACT3D 在六项 3D 基准上平均准确率 53.2%,比基座 Qwen 提升 22.0 个百分点,并高于 Gemini 3.6 Flash;摘要称其输入帧数比现有开源 3D 方法少 50%–70%。需要说明,以上均为论文摘要口径,全文实验与同行评审情况目前公开信息有限。

为什么重要

现有 3D 视觉问答多依赖多视角输入或 3D 表征,算力和数据成本偏高。ACT3D 的路线是把“主动探索”本身作为策略来学,只凭最终答案正确性反向塑造观察行为,这为 VLM 在机器人、空间推理等场景提供了一条更接近人类感知的训练思路。摘要还显示,模型在需要大量探索的问题上比基座提升 16.3%,而在首帧即可回答的问题上仅提升 0.6%,说明学习到的是有选择地看,而非盲目多看。

对用户/开发者/创作者的影响

对开发者而言,这条路线提示可以用强化学习把“交互式感知”接入现有开源 VLM,而不必重建 3D 输入管线;但训练稳定性和奖励设计仍是门槛。对做空间问答、导航或虚拟场景应用的团队,输入帧减少意味着推理成本有下降空间,不过摘要未披露延迟、显存等工程数据,暂不能据此做部署判断。对普通用户,这类能力更可能先体现在需要理解空间关系的 AI 应用里,而非短期可用的消费产品。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文是否公开完整实验、代码与模型权重,以及是否经过同行评审;二是 ACT3D 在真实机器人或动态环境中的泛化是否成立;三是闭源模型与开源社区是否跟进“按需观察”的交互式推理范式。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 29401

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注