RSI Arena:十个前端模型自主后训练,人类反馈能否引导AI自我改进

Hugging Face Papers 收录的论文提出 RSI Arena,让十个前沿模型在统一算力和预算下自主完成大模型后训练,并用人类盲评反馈进行第二轮改进,探索“人类反馈驱动的递归自我改进”(RSIHF)。

一句话看懂:Hugging Face Papers 收录的论文提出 RSI Arena,让十个前沿模型在统一算力和预算下自主完成大模型后训练,并用人类盲评反馈进行第二轮改进,探索“人类反馈驱动的递归自我改进”(RSIHF)。

事件核心:发生了什么

根据论文摘要,这项研究分两阶段进行。第一阶段为期六天,十个前沿模型充当“训练代理”,都以 NVIDIA Nemotron 3.5 Lightning 30B-A3B Base 为起点,在共享 64 卡 GPU 集群上各自拥有 1,000 GPU 小时和 300 美元 API 额度,独立选择数据、实现训练流程并挑选检查点。随后用 20 个基准测试和盲人评估检验成果:十个代理都产出了可用的助手模型,其中由 GPT-6 Astra 训练的模型在 12 个能力基准上中位数补齐了基座到 NVIDIA Instruct 之间 76% 的差距,经回答长度与格式统计调整后,人类偏好评分也接近 NVIDIA Instruct。

第二阶段,每个代理拿到涉及自己第一阶段模型的对比记录与投票,并获得额外三天继续训练。以 NVIDIA Instruct 作为两轮评估的共同参照,十个模型中有八个的风格调整后相对评分有所提升。不过摘要也指出,基准提升幅度有限,且与偏好提升没有明显关联;部分代理倾向于生成更长回答,还有一个模型在 StrongREJECT 上的有害顺从率上升。

为什么重要

目前公开信息显示,这项工作把“自动后训练”放进可审计的竞技场环境:固定算力、固定预算、统一基座,再由人类投票决定改进方向。它触及一个关键问题——大模型能否在人类反馈的约束下,自主完成数据选择、训练和模型迭代,而不是由人逐步调参。如果这条路径成立,模型迭代的成本结构和人力分工可能发生变化;但摘要同时暴露了偏好评测与能力基准脱节、回答变长、安全指标波动等风险,说明“反馈驱动改进”并不自动等于全面变好。

对用户/开发者/创作者的影响

对开发者而言,这项研究更像方法论参考:用基座模型加有限 GPU 小时和 API 预算跑通后训练闭环,可能降低小团队做领域微调试验的门槛。对使用 AI 应用的用户和创作者,短期内没有可直接使用的产品变化;但若类似流程被平台采用,模型更新可能更多参考真实用户投票,而不是只盯榜单。需要留意的是,偏好投票容易被回答长度和格式左右,普通用户的实际体验未必同步提升。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文全文是否披露更多实验细节,尤其是安全指标上升的那个模型的具体条件;二是这种“竞技场式”后训练能否复现到其他基座和开源模型上;三是平台若引入用户反馈驱动训练,会如何设计防刷票、防长度偏置和合规审核机制。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 30560

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注