这篇文章的分析角度给了我很大启发 这也是我自学LLM的最大痛点 见过树,却未见过森林 没有人指导交流,只有AI常伴左右 这篇文章的意思是: 大模型的用法太死板了 ChatGPT 出来以后 模型基本都是同一种写法: 一段文字进去,一个字一个字往外蹦 做 agent 的人没去改模型,全在外面加壳: 工具调用、上下文压缩、多轮拼接 让任务去凑这种写法 他问的是:任务已经知道该怎么跑了 能不能把模型也改成更贴这个任务的写法 他举了两个方向:…

开发者 @antiAIvo 分享了一篇关于语言模型“形状”的文章,提出当前大模型的调用方式过于单一——无论什么任务都是“一段文字进、一个字一个字出”,而 agent 开发者只能在外层靠工具调用、上下文压缩来适配,而非改变模型本身。

一句话看懂:开发者 @antiAIvo 分享了一篇关于语言模型“形状”的文章,提出当前大模型的调用方式过于单一——无论什么任务都是“一段文字进、一个字一个字出”,而 agent 开发者只能在外层靠工具调用、上下文压缩来适配,而非改变模型本身。

事件核心:发生了什么

2026 年 10 月,开发者 @antiAIvo 在 X 上发帖,讨论 AI 研究者 Alex Zhang 于 9 月 26 日发布的一篇关于语言模型“形状”(shape)的博客。文章的核心观点是:自 ChatGPT 以来,大模型的接口形态几乎没有变化——输入一段文本,自回归地逐字输出。做 agent 的团队并没有去改动模型,而是在外层不断加壳:工具调用、上下文压缩、多轮拼接,本质上是让任务去迁就模型的固定写法。

文章提出一个反方向的问题:既然任务的执行路径已经清楚,能不能反过来把模型改成更贴合这个任务的形式?作者举了两个方向。一是 agent 轨迹的循环状态处理:历史信息用循环状态保留粗摘要,当前一轮用正常注意力精细处理,从而省去手动压缩上下文。二是类似 “Jev” 的思路:输出不做自由文本生成,只给出 0 到 1 的判断,速度快,可当作模糊的 if 条件使用,目前已有开发者把它塞进 RLM 中。

为什么重要

这触及了大模型工程化的一个结构性问题:哪些逻辑应该写进模型内部,哪些应该留在应用层?类比编程语言,编译器负责底层优化,应用层负责业务逻辑。目前 agent 生态的多数工作——记忆管理、工具编排、上下文裁剪——都堆在应用层,导致系统复杂、成本高、延迟大。如果模型本身能针对特定任务形态做定制,推理效率和稳定性都可能改善。这也是 Alex Zhang 强调“harness design”(框架设计)值得现在就开始研究的原因。

对用户/开发者/创作者的影响

对开发者而言,这意味着 agent 框架的设计思路可能分化:一派继续在 API 外做编排,另一派尝试把任务结构下沉到模型训练或推理阶段。RLM 等新架构已经在探索非自由文本的输出形式。对普通用户,短期体验变化不大,但长期看,如果模型能原生支持更紧凑的任务表达,AI 应用的响应速度和可靠性会提升。对创作者和企业采购方,评估 AI 方案时可能需要关注一个维度:这个模型是通用对话形态,还是针对特定工作流做过“形状”上的适配。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 Alex Zhang 博客中提到的 harness design 是否会被主流 agent 框架采纳;二是类似 Jev 的 0 到 1 判断式输出是否进入更多开源或闭源模型;三是“模型内部处理 agent 轨迹”这一方向能否在训练和推理成本上跑通,目前公开信息显示仍处于早期讨论阶段。

来源:@antiAIvo

celebrityanime
celebrityanime
文章: 27358

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注