GSBR:不设硬边界的在线强化学习正则化,机器人任务成功率95%

alphaXiv 收录的论文提出 GSBR 方法,用“支持区距离”替代行为克隆的强约束,在四个机器人基准的 19 个任务上把基础策略平均成功率从 33% 提升到 95%。

一句话看懂:alphaXiv 收录的论文提出 GSBR 方法,用“支持区距离”替代行为克隆的强约束,在四个机器人基准的 19 个任务上把基础策略平均成功率从 33% 提升到 95%。

事件核心:发生了什么

根据 2026 年 11 月 3 日公开的论文页面,研究者提出 Geometric Support Behavior Regularization(GSBR),用于在线强化学习。现有方法有两类问题:行为克隆式正则把策略拉向整个基础策略分布,导致模型难以舍弃次优模式;硬支持约束则禁止策略跳出基础策略覆盖范围。GSBR 从冻结的基础策略中采样若干参考动作,以最近邻距离的分位数估计局部半径,把这些邻域并集视为“支持区”:区内不惩罚,区外按到最近邻域距离的平方平滑加罚。因此它只需基础策略的采样能力,不要求参数或梯度访问。

为什么重要

在线机器人学习成本高,每次交互都可能对应一次真实系统运行。一个预训练控制器能加速探索,但往往包含多种合理却不适配当前任务的行为,如何在“利用先验”和“允许改进”之间取得平衡,是这类方法的核心矛盾。GSBR 的定位是在两者之间提供可调节空间:既允许模式选择,也允许有限代价下的局部精修。作者还给出近似误差随参考样本数增长的收敛性分析,但摘要未说明 actor-critic 训练本身能否收敛到最优策略。目前公开信息显示,这仍是论文层面的方法,尚未提及产品化或同行评审结论。

对用户/开发者/创作者的影响

对做机器人策略微调的开发者,GSBR 的价值在于正则化只依赖基础模型的采样接口,接入现有扩散或流匹配策略的门槛较低,代码已在项目页开源。对评估在线 RL 方案的人来说,可重点看它在样本效率和吞吐上的取舍,而不是只盯成功率。不过摘要只覆盖四个机器人基准、19 个任务,结果不能外推到其他环境或模型。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是复现实验是否在其他机器人平台和基础策略上保持效果;二是与 RLT(RL Token)等最接近方法的细节对比和消融是否公开;三是开源代码能否在真实硬件上稳定运行。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 32523

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注