生成式推荐器如何大规模重塑RecSys

NVIDIA 发文系统梳理了生成式推荐器(Generative Recommenders, GRs)如何替代传统 Embedding 相似度匹配,将推荐问题重构为“预测用户下一个行为”的序列建模任务,并给出了支撑这一架构落地的大规模训练与推理方案。

一句话看懂:NVIDIA 发文系统梳理了生成式推荐器(Generative Recommenders, GRs)如何替代传统 Embedding 相似度匹配,将推荐问题重构为“预测用户下一个行为”的序列建模任务,并给出了支撑这一架构落地的大规模训练与推理方案。

事件核心:发生了什么

NVIDIA 在官方技术博客中详细拆解了推荐系统(RecSys)从传统架构向生成式架构迁移的必然性与工程挑战。传统推荐系统依赖用户与物品的 Embedding 向量相似度进行匹配,但在工业级规模下,用户历史行为数据每天可达 TB 甚至 PB 级,无法全部装入 GPU 高带宽显存(HBM),导致训练和推理瓶颈显著。同时,长尾效应和冷启动问题长期困扰着头部推荐平台。

生成式推荐器将目标函数改为在给定用户历史序列的条件下,预测大规模物品库中的下一个交互物品或动作,即 P(next_item | user_history)。目前两大主流技术路线分别是 Meta 在 2024 年提出的 HSTU(Hierarchical Sequential Transduction Units)和 Google 提出的 Semantic IDs(SIDs)。HSTU 将用户行为按时间戳交织排列为序列,用注意力机制替代显式特征工程,并改进了 Transformer 的 Attention 聚合方式,使用 SiLU 激活替换 softmax 归一化,以便更高效地融合内核并降低推理延迟。Semantic IDs 则通过对物品 Embedding 进行层次聚类,生成更小的词表 Token 集,从而缓解全 softmax 计算瓶颈和长尾物品训练信号不足的问题。

为什么重要

推荐系统是消费互联网行业最普遍也最难规模化的机器学习问题。传统 Embedding 相似度路线在数据规模、稀疏性和实时性上已经逼近天花板。生成式推荐器的核心意义在于,它让推荐系统从“判别式打分”转向“生成式预测”,架构上与 Transformer 和 LLM 生态趋同,这意味着推荐系统可以直接受益于大模型领域的 Scaling Laws——模型越大、数据越多,效果提升越可预测。

这一转变也打破了检索(Retrieval)与排序(Ranking)两个独立阶段的传统边界,让单模型统一完成召回与精排成为可能。对 NVIDIA 而言,生成式推荐器是 GPU 算力需求的重要增量市场:工业级生成式推荐器的训练和推理需要更高带宽的显存、更高效的 Kernel 融合和更大规模的算力集群,这与 LLM 训练负载形成了互补。

对用户/开发者/创作者的影响

对互联网平台的技术决策者而言,如果推荐系统命中用户每日活跃量上亿的规模,生成式推荐器不再只是学术概念,而是值得评估的工程选项。NVIDIA 已开源 recsys-examplesnv-embedding-cache 两套参考实现,分别解决 GR 架构的训练示例和 Embedding 缓存访问瓶颈,降低了从传统 RecSys 迁移到 GR 的试错成本。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对日常用户来说,生成式推荐器最直接的体感变化是推荐质量对长尾物品的覆盖提升——冷门但相关的内容将获得更多曝光,而不是被少数热门物品垄断。对内容创作者而言,这意味着新发布的视频、商品或文章可能更快进入推荐池,冷启动时间有望缩短。需要说明的是,目前公开信息显示,实际部署生成式推荐器的平台仍以头部厂商为主,中小型团队应关注工程复杂度和推理成本是否在自己可承受范围之内。

值得关注的后续

第一,Meta 的 HSTU 与 Google 的 Semantic IDs 两条技术路线谁能更快在工业级推荐系统中被验证,值得跟踪——两者目前都还处于论文加参考实现阶段,缺少大规模线上 A/B 测试的公开数据。

第二,NVIDIA 是否会将生成式推荐器的优化能力整合进其端到端 AI 平台(如 NVIDIA Merlin 或 Triton 推理服务器),将是开发者生态能否快速跟进的关键信号。

第三,生成式推荐器对显存带宽和推理延迟的苛刻要求,是否会推动新一代 GPU 架构或专用加速硬件(如针对推荐场景的 ASIC)出现,是算力市场值得关注的变化。

来源:NVIDIA Generative AI Blog

celebrityanime
celebrityanime
文章: 19345

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注