Gemma-4-E4B: the PLE table holds ~5.6 GB of VRAM that can live on CPU bit-identically – is there a supported device_map path?

该问题发生在加载 google/gemma-4-E4B-it 模型时,模型内部的 per-layer embedding(PLE)表占用大量显存。优先排查方向是:在 from_pretrained 时是否使用了细粒度(per-module)的 device_map 字典,而不是只把顶层模块指定为 "








