celebrityanime

celebrityanime

HBM 不够用了,AI SSD 迎来爆发前夜

HBM 不够用了,AI SSD 迎来爆发前夜

大模型推理正在同时撞上显存容量和 I/O 两堵墙,SSD 不再只是“模型文件仓库”,而是开始进入 KV Cache 卸载、MoE 专家权重调度等实时推理链路。英韧、华为、群联、江波龙、联芸—寅谱等厂商已拿出不同路线,AI SSD 正成为算力基础设施竞争的新焦点。