混合GFlowNets组合异步策略,K=64覆盖39%基因组最优解

alphaXiv 2026年10月12日收录的论文提出 Mixture of GFlowNets(MoG),用一组异步训练的 GFlowNet 加一个软分类器划分状态空间,在基因组理想型设计任务中用 K=64 覆盖 1024 个最优解中的 39%,高于独立智能体的 31% 和数据并行训练的 20%。

一句话看懂:alphaXiv 2026年10月12日收录的论文提出 Mixture of GFlowNets(MoG),用一组异步训练的 GFlowNet 加一个软分类器划分状态空间,在基因组理想型设计任务中用 K=64 覆盖 1024 个最优解中的 39%,高于独立智能体的 31% 和数据并行训练的 20%。

事件核心:发生了什么

论文研究的是 GFlowNet 的模式偏差问题。GFlowNet 被训练成按未归一化奖励 R(x) 成比例地采样组合对象,但单个 GFlowNet 在复杂奖励分布中往往覆盖不全所有模式,扩大 batch 或数据并行梯度平均会让所有轨迹来自同一个可能有偏的策略,增加 rollout 只是在重新发现已知模式。

MoG 把单个前向策略替换为 K 个独立 GFlowNet 组成的社区,通过一个联合训练的软分类器给每个成员分配状态空间区域,并用奖励塑形引导训练。混合成员在各自学习的配分函数下,可证明恢复目标分布 p(x)∝R(x)。MoGX 进一步让分类器路由轨迹:被分配给其他成员的轨迹直接发送过去训练,无需重要性采样。

在 HyperGrid 的六个奖励地形、社区规模最高 K=64 的设定下,MoG 和 MoGX 随着 K 增大持续发现新模式,而数据并行训练趋于饱和。基因组理想型设计任务中,训练预算固定、交互预算不变,MoGX 在 K=64 时覆盖 1024 个最优解中的 39%,独立智能体为 31%,数据并行训练为 20%。MoG 每次迭代的同步开销也低于数据并行训练。

为什么重要

科学搜索和材料、育种、药物设计等场景真正难的不是找到一个高分候选,而是找到一批不同的高分候选,同时每次评估 oracle 都很贵。GFlowNet 原本就是为这种多样性采样设计的,但单个采样器容易集中到少数几个模式,单纯堆算力收益有限。MoG 的思路是把并行算力转成模式覆盖,而不是重复劳动,这对昂贵黑盒优化的算力分配有直接参考价值。

对用户/开发者/创作者的影响

目前公开信息显示,这是一篇论文,不是已上线产品。对做生成式搜索、分子设计、组合优化等方向的开发者,MoG 提供了一条可试用的替代路线:如果你已经在用 GFlowNet 或类似采样器,且发现增加并行副本后回报递减,可以关注这种“社区加分类器路由”的架构。它不需要额外 oracle 调用,也不依赖重要性采样,工程上可能比扩大 batch 更划算。对创作者的直接影响有限,更多是后续 AI 应用在候选生成环节可能受益。

值得关注的后续

第一,MoG 是否会被应用到更多真实任务,比如蛋白质设计、材料发现或推荐多样性,而不仅是 HyperGrid 和基因组理想型基准。第二,论文中“每个组件到达其塑形目标”的可证明条件在复杂场景下是否容易满足。第三,分类器路由带来的额外训练开销,在大规模分布式训练中是否仍然低于数据并行方案。第四,相关代码是否开源,如果开源,开发者可以更快判断是否适合自己的采样任务。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 29092

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注