GenSfM 用原生 3D 扩散联合完成重建与相机估计,四视图 PSNR 提升 3.2–4.5dB

论文提出 GenSfM,把原生 3D 扩散模型与多视图重建放进同一次联合去噪,用少量未标定照片同时恢复物体完整几何、外观和相机位姿,在 Toys4k 与 GSO 四视图设定下优于强 3D 生成基线。

一句话看懂:论文提出 GenSfM,把原生 3D 扩散模型与多视图重建放进同一次联合去噪,用少量未标定照片同时恢复物体完整几何、外观和相机位姿,在 Toys4k 与 GSO 四视图设定下优于强 3D 生成基线。

事件核心:发生了什么

alphaXiv 收录的论文 GenSfM 于 2026 年 10 月 26 日发布。它试图解决一个长期割裂的问题:传统 Structure-from-Motion 能还原与输入图像一致的几何,却补不出未拍摄区域;原生 3D 生成能给出看似合理的完整物体,却不保证贴合输入视图。简单串联“先重建、后生成”会让误差逐级累积。

GenSfM 的做法是把一个共享形状潜变量和每张视图的位姿潜变量放进同一条多模态序列,由扩散 Transformer 在共享自注意力下联合去噪。相机用紧凑的 3D UV 体积表示,再经位姿 VAE 压缩成 4×4×4 潜网格;作者称每个位姿的 token 数比前作 CUPID 少 64 倍。第二阶段利用恢复出的相机把像素特征投影回体素,做姿态感知的几何与纹理精修。

摘要给出的数字:四张未标定视图下,新视角 PSNR 比强原生 3D 生成基线高 3.2–4.5 dB,中位 Chamfer 距离降低 2.8–3.8 倍;无需外部位姿估计骨干、后处理优化或已知内参,输入视图位姿在 5° 容差下的 Acc@5° 超过 96%。需注意,以上仅来自摘要层面,评测限定在 Toys4k、GSO 两个数据集和该设定。

为什么重要

它代表一种路线转向:不再把“重建”和“生成”当两个模块串起来,而是让生成模型在联合分布里同时推断形状与相机,再用粗相机把图像细节绑到具体体素上。这对机器人、AR 采集和内容创作有意义——这些场景往往只需要一个可用的物体模型,而不是一堆照片。作者也承认,位姿或标定误差较大时特征可能错配,局部精修会退化,尽管粗 3D 先验仍能保住整体补全。

对用户/开发者/创作者的影响

对 3D 创作者,这意味着少拍几张、不用标定板的拍摄流程有理论空间;对开发者,联合位姿潜变量加 UV 体积 token 化值得关注,它把多视图扩展的序列长度压了下来。但论文摘要不等于可用产品,目前公开信息显示没有 API、开源权重或插件形式的落地说明,工具链集成和推理成本也尚未披露。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是是否放出代码与权重,以及在实际手机拍摄、遮挡较多的数据上是否保持摘要中的表现;二是与前作 CUPID 及 TRE 等基线的完整对比细节;三是 token 减少 64 倍能否转化为真实推理速度优势——这目前只是 token 数比较,不是实测加速。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 30310

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注