标签: ChatGPT

斯坦福 @stanfordnlp 新课 CME 295,双胞胎兄弟 @afshinea @shervinea 主讲,9 讲走完 LLM 全部版图:从 Transformer 架构、注意力变体、RoPE,到 LoRA 微调、RLHF/GRPO 训练,再到 Flash Attention 推理优化、MCP 与 AI Agent、扩散语言模型。 课程和知名速查表全部公开。 https://t.co/FjHGTco5iS

斯坦福 @stanfordnlp 新课 CME 295,双胞胎兄弟 @afshinea @shervinea 主讲,9 讲走完 LLM 全部版图:从 Transformer 架构、注意力变体、RoPE,到 LoRA 微调、RLHF/GRPO 训练,再到 Flash Attention 推理优化、MCP 与 AI Agent、扩散语言模型。 课程和知名速查表全部公开。 https://t.co/FjHGTco5iS

斯坦福 NLP 组推出新课程 CME 295,由制作过 CS 229/230 知名速查表的 Amidi 双胞胎兄弟主讲,用 9 讲压缩讲完从 Transformer 架构到 AI Agent、扩散语言模型的 LLM 全栈知识地图,课程资料与速查表全部公开。

在机器学习和信息论中,有一个著名的直觉叫流形假说。 现实世界产生的数据,在名义上往往拥有极高维度:一张高清图片可能对应数百万个像素维度,自然语言、声音、蛋白质序列、行为轨迹也都存在于极其庞大的状态空间中。 但有意义的数据并不会均匀散落在这些空间里,它会被压缩在一个极小、极其特殊的结构区域中。 一张随机生成的百万像素图片几乎不可能恰好构成一张真实人脸,因为自然图像同时受到身份、姿态、光照、透视、物体结构和物理规律等大量约束。 流形,只是…

在机器学习和信息论中,有一个著名的直觉叫流形假说。 现实世界产生的数据,在名义上往往拥有极高维度:一张高清图片可能对应数百万个像素维度,自然语言、声音、蛋白质序列、行为轨迹也都存在于极其庞大的状态空间中。 但有意义的数据并不会均匀散落在这些空间里,它会被压缩在一个极小、极其特殊的结构区域中。 一张随机生成的百万像素图片几乎不可能恰好构成一张真实人脸,因为自然图像同时受到身份、姿态、光照、透视、物体结构和物理规律等大量约束。 流形,只是…

研究者 Phoenix Yin 在 X 上发布长文,用流形假说、互信息、Kolmogorov 复杂度和信息瓶颈串起一条论证:智能成立的前提是现实世界存在可压缩的稳定结构,因此学习在本质上接近压缩,而大模型的记忆、泛化、类比和推理只是同一机制在不同尺度上的表现。这是一篇观点性长文,不是产品发布。

刚刚,ChatGPT 最早那批核心研究者,开始重新设计 AI 了。 前 OpenAI 研究员、InstructGPT 论文作者 Diogo Almeida 今天正式发布新模型 Jev。 他过去两年一直在秘密研究一个问题: 为什么 ChatGPT 已经这么聪明了,AI 还是没有真正接管大规模软件自动化? 他的答案很直接: 可能因为我们根本不需要让模型每次都「说话」。 传统 LLM 做一个判断,要先生成一段文字或 JSON,再让软件解析结…

刚刚,ChatGPT 最早那批核心研究者,开始重新设计 AI 了。 前 OpenAI 研究员、InstructGPT 论文作者 Diogo Almeida 今天正式发布新模型 Jev。 他过去两年一直在秘密研究一个问题: 为什么 ChatGPT 已经这么聪明了,AI 还是没有真正接管大规模软件自动化? 他的答案很直接: 可能因为我们根本不需要让模型每次都「说话」。 传统 LLM 做一个判断,要先生成一段文字或 JSON,再让软件解析结…

前 OpenAI 研究员、InstructGPT 论文作者 Diogo Almeida 发布新模型 Jev,它跳过自然语言生成,直接输出结构化决策和概率,官方称在判断类任务上快 20-200 倍、成本低 40-400 倍。这代表一条有别于「更大更聪明」的实用主义路线,目标是把智能做成软件里廉价、高频的调用。

手搓 ReAct”到”RL 训 Agent 的全覆盖 Agent 教学项目:Hello-Agents。项目主张”穿透框架表象,从核心原理出发,亲手构建属于自己的多智能体应用”。 第一部分 基础: 第一章 初识智能体:定义 / 类型 / 范式 / 应用 第二章 智能体发展史:符号主义 → LLM 驱动 第三章 大语言模型基础:Transformer / 提示 / 主流 LLM / 局限 第二部分 构建你的 LLM 智能体: 第四章 经典…

手搓 ReAct"到"RL 训 Agent 的全覆盖 Agent 教学项目:Hello-Agents。项目主张"穿透框架表象,从核心原理出发,亲手构建属于自己的多智能体应用"。 第一部分 基础: 第一章 初识智能体:定义 / 类型 / 范式 / 应用 第二章 智能体发展史:符号主义 → LLM 驱动 第三章 大语言模型基础:Transformer / 提示 / 主流 LLM / 局限 第二部分 构建你的 LLM 智能体: 第四章 经典…

Datawhale 社区推出开源教程项目 Hello-Agents,主张“穿透框架表象”,带开发者从手搓 ReAct 一路走到用 GRPO 做 Agentic-RL 训练,覆盖原理、框架、协议与真实案例。它的差异点是:不只教“怎么搭”,还系统讲“搭错了怎么调”。