分享一份最近收集的 AI Infra 入门阅读清单,建议收藏,慢慢看 AI 已经可以生成很多很好的内容,解释概念、翻译论文、整理资料,都越来越方便。但在这个时代,能静下心来,把一篇好文章认真读完,把没懂的地方再琢磨一遍,我觉得更加难能可贵 这次整理的材料,主要集中在大模型推理这一块。从 KV Cache、显存管理,到请求调度、推理加速,再到怎么判断性能有没有真正变好 做工程的朋友,可以顺着往源码和实验里走。平时看 AI 产业、算力和存…

开发者 @Kay2289123 整理了一份聚焦大模型推理的 AI Infra 入门阅读清单,从 vLLM 系统解剖到 continuous batching、性能指标与推理算术,为工程和产业观察者提供了一条可循序深入的路径。








