标签: 算力

AlterNet 论文提出按需调节算力的 MoE 新架构

AlterNet 论文提出按需调节算力的 MoE 新架构

arXiv 上的一篇新论文提出 AlterNet,把混合专家(MoE)与可动态调节的前向深度结合起来,让模型自己决定一次推理需要多少算力,并支持训练后按执行环境缩放深度。目前这是论文层面的架构设想与初步测试,尚未成为可用产品或经同行评审的结论。