冻结生成器只调噪声:AWLS 一步策略真机成功率 65% 对 45%

新论文提出 AWLS,一种离线后训练方法:冻结预训练的一步机器人操作策略,只学习一个残差噪声整形器,把示范动作中的优质行为权重“注入”潜在噪声,在不牺牲单步推理速度的前提下减少对低质量模式的模仿。

一句话看懂:新论文提出 AWLS,一种离线后训练方法:冻结预训练的一步机器人操作策略,只学习一个残差噪声整形器,把示范动作中的优质行为权重“注入”潜在噪声,在不牺牲单步推理速度的前提下减少对低质量模式的模仿。

事件核心:发生了什么

alphaXiv 于 2026 年 10 月 20 日收录的论文《AWLS: Advantage-Weighted Latent Steering for One-Step Generative Robotic Manipulation Policies》指出,人类采集的机器人操作示范常混有犹豫、绕路、低效的动作片段。标准行为克隆对所有示范动作赋予同等概率,可能复现次优模式;而直接用价值梯度微调生成策略,又容易放大 critic 误差、造成先验漂移。

AWLS 的做法是:先冻结一步生成策略的解码器,再训练一个小型残差噪声整形器,在潜在噪声进入解码器前做观测条件修正;训练信号来自离线 IQL critic 的 advantage,但被 detach 并做 mini-batch 归一化,只作为示范动作的重建损失权重,不提供策略梯度。论文称在 5 个真机任务、各 70 条遥操作示范、后训练不使用真机 rollout 的条件下,基于 MeanFlow 的 MF-AWLS 在 100 次 rollout 中成功 65 次,冻结基线为 45 次。需要说明,以上仅为论文摘要与项目页信息,非同行评审结论。

为什么重要

机器人策略的瓶颈往往不在推理速度,而在演示数据质量参差。AWLS 给出一条“折中路线”:既避免扩散/流策略按平均似然复现次优行为,也避免用 critic 梯度硬拉策略、导致偏离预训练先验。对追求实时控制(单步生成)的机器人团队来说,这保留了推理效率,又提供了一种廉价的离线改进手段,可能降低对大规模高质量遥操作数据的依赖。

对用户/开发者/创作者的影响

对机器人开发者,这一思路的价值在于“后训练而非重训”:已经部署的一步生成策略可以冻结主干,只训练一个小模块,算力成本和风险都较低。但优势权重仍依赖 critic 排序的准确性,若 critic 误判,AWLS 同样会把权重加错示范。对研究者和算法团队,论文还提出无 rollout 的解码器敏感度选点准则,用于挑选对潜在噪声更敏感的预训练 checkpoint,这对模型选择和实验复现具有参考意义。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是该方法在更多任务、更大规模示范下能否稳定保持增益;二是 critic 误排序时的失败模式是否有公开分析;三是代码与预训练 checkpoint 是否开源、能否接入现有 VLA 或流策略流水线。目前公开信息显示,结果仅限论文给出的任务与评测条件。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 31546

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注