标签: API

大模型推理加速技术的学习路线是什么? 推荐直接看 CMU 陈天奇大佬最新的推理综述: Towards Efficient Generative Large Language Model Serving: A Survey from Algorithms to Systems https://t.co/TY0OyKWSdp

大模型推理加速技术的学习路线是什么? 推荐直接看 CMU 陈天奇大佬最新的推理综述: Towards Efficient Generative Large Language Model Serving: A Survey from Algorithms to Systems https://t.co/TY0OyKWSdp

有开发者在社交平台推荐 CMU 陈天奇团队的推理综述《Towards Efficient Generative Large Language Model Serving》,把它当作大模型推理加速的学习路线入口;评论区则对“是否最新”和“该不该看”展开了讨论。

手搓 ReAct”到”RL 训 Agent 的全覆盖 Agent 教学项目:Hello-Agents。项目主张”穿透框架表象,从核心原理出发,亲手构建属于自己的多智能体应用”。 第一部分 基础: 第一章 初识智能体:定义 / 类型 / 范式 / 应用 第二章 智能体发展史:符号主义 → LLM 驱动 第三章 大语言模型基础:Transformer / 提示 / 主流 LLM / 局限 第二部分 构建你的 LLM 智能体: 第四章 经典…

手搓 ReAct"到"RL 训 Agent 的全覆盖 Agent 教学项目:Hello-Agents。项目主张"穿透框架表象,从核心原理出发,亲手构建属于自己的多智能体应用"。 第一部分 基础: 第一章 初识智能体:定义 / 类型 / 范式 / 应用 第二章 智能体发展史:符号主义 → LLM 驱动 第三章 大语言模型基础:Transformer / 提示 / 主流 LLM / 局限 第二部分 构建你的 LLM 智能体: 第四章 经典…

Datawhale 社区在 GitHub 推出开源教程 Hello-Agents,覆盖从手写 ReAct 到用 GRPO 训练 Agent 的完整链路,并罕见地加入了大量调试与调优内容,目标是让开发者穿透框架、自己构建多智能体应用。