标签: 人工智能

UMT5 incredibly slow in generating

UMT5 incredibly slow in generating

在使用 Transformers 加载 google/umt5-small 并执行 generate 生成时,会出现“UMT5 incredibly slow in generating”,即同样参数规模下 UMT5 的生成耗时明显高于 mbart/t5/mt5。优先排查 UMT5 相对位置偏置计算