arXiv 论文提出 Omni-Woodpecker:免训练纠正全模态模型幻觉,CMM 提升 12.9 分

arXiv 新论文提出免训练框架 Omni-Woodpecker(OWP),把全模态大模型的跨模态幻觉从“改输出”转向“改内部表征”,在 Qwen2.5-Omni-7B 上于 CMM 和 AVHBench 分别提升 12.9 与 8.6 分。这为音视频联合推理的可靠性提供了一条不需重训模型的新思路。

一句话看懂:arXiv 新论文提出免训练框架 Omni-Woodpecker(OWP),把全模态大模型的跨模态幻觉从“改输出”转向“改内部表征”,在 Qwen2.5-Omni-7B 上于 CMM 和 AVHBench 分别提升 12.9 与 8.6 分。这为音视频联合推理的可靠性提供了一条不需重训模型的新思路。

事件核心:发生了什么

据 arXiv cs.AI 2026 年 10 月 21 日发布的新论文摘要,OWP 是一个免训练框架,针对同时处理音频与视觉的全模态大模型(OLLM)。作者认为现有缓解跨模态幻觉的方法多在输出层做文章,忽视了融合表征中“真实证据”与“学到的先验”相互纠缠的问题。OWP 的做法是:先从不同模态视角识别跨模态冲突,再用正交分解把隐藏状态中的 grounding evidence 与竞争性先验分开,最后在解码前自适应压制误导性先验、恢复被忽略的证据。摘要称其在不同架构上具有泛化性,代码已在 GitHub 公开。目前公开信息仅为论文摘要,全文实验尚未核验。

为什么重要

跨模态幻觉是全模态模型落地音视频理解场景的主要障碍之一。若这一路线成立,意味着开发者不必重新训练或微调大模型,只需在推理阶段介入表征,就可能降低幻觉;这比处理输出层的“事后审查”更接近问题源头。对当前开源与闭源全模态模型而言,免训练方法也更容易集成,可能影响多模态推理链路的设计方式。

对用户/开发者/创作者的影响

对开发者,OWP 提供了一种在推理侧可尝试的插件式思路,尤其适合已有 Qwen2.5-Omni 等骨干模型、但受困于音视频幻觉的应用。对创作者和企业采购方,这类方法目前仍停留在论文阶段,不能视为产品功能;但它提示音视频问答、会议理解、内容审核等场景的可靠性有改进空间。是否真正可用,取决于代码复现和实际部署开销。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文全文与第三方复现能否支撑摘要中的评测数字,且这些数字应限定在摘要所述任务和骨干模型条件下;二是 OWP 在真实推理延迟和不同模态输入质量下的表现;三是是否会有厂商将其思路吸收进全模态模型产品,或开源社区围绕该仓库形成后续工作。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 29573

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注