标签: AI

在单颗 AMD MI300X 上运行 DeepSeek V4 Flash

在单颗 AMD MI300X 上运行 DeepSeek V4 Flash

开发者 ryanzhou 发布了一套完整配置,让 DeepSeek V4 Flash(304B 参数)能在单颗 AMD MI300X 上生产级运行,无需量化即可将全部权重装入 192GB HBM,单流解码达 168.6 tok/s。这件事值得关注,因为它验证了 AMD 大显存卡在高端推理场景中可作为 NVID…