标签： LLM

最近翻到浙大这个《大模型基础》开源项目，感觉很适合拿来系统补一遍 LLM。 它已经有 16k+ Stars，里面不只有一本中文教材。 从 Transformer、大模型架构，到 Prompt、CoT、LoRA、模型编辑、RAG，基本把常见的大模型基础串了一遍。 我比较喜欢的是，每一章后面还配了对应的论文列表，仓库里另外整理了经典论文和 Arxiv 周报。 所以遇到一个概念不熟，可以先看教材把原理弄明白，再顺着 Paper List 往…

最近翻到浙大这个《大模型基础》开源项目，感觉很适合拿来系统补一遍 LLM。 它已经有 16k+ Stars，里面不只有一本中文教材。 从 Transformer、大模型架构，到 Prompt、CoT、LoRA、模型编辑、RAG，基本把常见的大模型基础串了一遍。 我比较喜欢的是，每一章后面还配了对应的论文列表，仓库里另外整理了经典论文和 Arxiv 周报。 所以遇到一个概念不熟，可以先看教材把原理弄明白，再顺着 Paper List 往…

浙江大学团队维护的《大模型基础》开源项目在社交平台再次引发关注，该项目以一本中文教材为核心，配套论文列表和 Arxiv 周报，为碎片化学习大模型知识的人提供了一条系统化路径。

ValueError: Workspace validation failed:

ValueError: Workspace validation failed:

此报错通常发生在 vLLM V1 引擎启用 draft_model 投机解码并开启张量并行（TP>1）时，且草稿模型的 hidden_size 大于目标模型的 hidden_size。优先排查 fused allreduce+RMSNorm workspace 的创建逻辑，确认其 hidden_di

依赖AI将导致编程专业技能崩溃

依赖AI将导致编程专业技能崩溃

Hacker News 上资深开发者正在密集吐槽：当企业强制要求“AI 优先”写代码后，代码产出量暴增，但理解、审查和纠错能力正在被稀释，工程师的核心竞争力正从“写代码”变成“过滤 AI 生成的垃圾信息”。

自主攻击的兴起与遏制它们的竞赛

自主攻击的兴起与遏制它们的竞赛

AI 正在把网络攻击从人工操作推向全自动化的“自主攻击”，攻击者甚至能在本地设备上部署小型语言模型绕过监管。2025 年捷豹路虎因网络攻击损失 4.85 亿英镑，说明这类风险已直接冲击企业利润表。

CUDA out of memory

CUDA out of memory

在 vLLM 中，Model Runner V2 作为稠密模型默认执行器时，`profile_cudagraph_memory()` 返回 0，导致 CUDA graph 内存未预留在 KV cache 之外，`capture_model()` 阶段出现 OOM。优先排查方式：确认是否启用了 Mod