Vela发布:用10万用户真实行为训练大模型,用户任务评测最高提升11.5分

论文提出把用户在内容平台上的真实行为当成监督信号,用10万用户匿名行为数据构建训练任务。在论文测试条件下,微调Qwen3.6-35B-A3B后,用户相关任务评测提升最高达11.5分。

一句话看懂:论文提出把用户在内容平台上的真实行为当成监督信号,用10万用户匿名行为数据构建训练任务。在论文测试条件下,微调Qwen3.6-35B-A3B后,用户相关任务评测提升最高达11.5分。

事件核心:发生了什么

alphaXiv上公开的论文提出一个名为Vela的框架,核心思路是把用户的真实行为直接当作大模型的训练监督信号,而不是只依赖静态文本或合成数据。研究团队从10万名用户的匿名行为记录出发,这些记录包含浏览、搜索、购买、发帖、关注、点踩六类带时间戳的动作序列,并据此生成了覆盖91个真实任务模板的10万条任务。

经过难度筛选和轨迹接受标准,约7.5万条任务及其训练轨迹被保留。论文对Qwen3.6-35B-A3B进行微调后称,在用户相关任务上比基座模型最高提升11.5分,在通用基准上平均提升约4分。后续的强化学习阶段,比从基座模型直接做强化学习在用户相关任务上最高再高7.7分。评测集VelaBench包含982条留出任务,来自同一批91个模板,所用用户不在训练集中。

为什么重要

当前不少推荐、广告和个人助理场景,需要模型理解某个具体用户在数周甚至数年里的偏好和意图,而不是只给出一个平均画像。但现有训练方式很难捕捉用户行为随时间演变的过程。Vela的价值在于,它把内容平台上已经大规模存在的真实行为记录,转化成可训练的任务和轨迹,为“用户维度”的模型能力提供了一条相对可复制的数据路线。

论文还给出了两个值得注意的信号:一是用户行为数据越多,用户相关任务表现越好;二是先做行为数据微调、再做强化学习,效果优于直接从基座模型做强化学习。这意味着真实用户行为可能不仅是应用层的数据资产,也可能成为模型训练环节的一部分。目前公开信息显示,这些结论仍属论文阶段,尚不等同于已经上线可用的产品功能。

对用户/开发者/创作者的影响

对开发者来说,Vela的思路提示了一种新的数据工程方向:把产品里沉淀的用户行为日志,通过切分可见历史与隐藏未来、构建预测或归因任务,转成训练数据。这可能影响个人助理、推荐系统和广告模型的技术选型,尤其是需要长周期用户理解的场景。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对普通用户和创作者而言,这强化了一个现实:平台上的浏览、搜索、购买、关注和点踩等行为,正在被更系统地用于训练模型。论文强调使用的是匿名记录,但数据使用边界、授权方式和隐私保护仍是后续必须关注的问题。对内容平台来说,行为数据能否合规转化为模型能力,可能成为下一阶段的竞争点之一。

值得关注的后续

第一,Vela是否能走出论文,落地到真实产品中,尤其是与个人助理、推荐和广告系统的结合程度。第二,用户行为数据训练带来的提升,是否会在更大规模模型和其他基座上复现。第三,训练数据涉及用户长期行为,平台如何在效果和隐私合规之间取得平衡,以及是否会出现更明确的授权和退出机制。以上判断均基于目前公开的论文摘要信息,具体实验细节和长期表现有待进一步验证。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 29001

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注