模型之间靠自然语言聊天,可能很快会显得非常低效。 一家刚出 stealth 的创业公司 Mostik,做了个挺有意思的东西,不让两个大模型互相写字,直接传 hidden state。 今天 Agent、Subagent、Model Council 的协作方式基本都一样。模型 A 想完一遍,把结果压成几百个 token;模型 B 再把这些 token 读进去,重新理解一遍。 Mostik 的判断是,这中间丢掉的信息可能多得离谱。 模型生…

一家名为 Mostik 的 stealth 创业公司提出,让大模型之间直接传递内部状态(hidden state),而不是靠自然语言对话协作。他们声称用一个小型“bridge”模型翻译不同模型的内部表征,能让 4B 小模型追回与 753B 大模型之间约 50% 的性能差距。

一句话看懂:一家名为 Mostik 的 stealth 创业公司提出,让大模型之间直接传递内部状态(hidden state),而不是靠自然语言对话协作。他们声称用一个小型“bridge”模型翻译不同模型的内部表征,能让 4B 小模型追回与 753B 大模型之间约 50% 的性能差距。

事件核心:发生了什么

Mostik 是一家约四个月前成立的创业公司,团队 15 人中有 12 位 PhD,首席科学家是菲尔兹奖得主 Stanislav Smirnov,背后有 General Catalyst、Foundation Capital 支持。其核心思路是绕过当前 Agent、Subagent、Model Council 等架构中“模型 A 将思考结果压缩成几百个 token,模型 B 再重新阅读理解”的低效链路,直接在不同模型的 latent space 之间建立翻译通道。

实验配置为 GLM-5.2 753B 负责读题但不生成任何 token,其 hidden state 经 bridge 传给 Qwen-3.5 4B,由后者直接输出答案,两个大模型均完全冻结、无需微调。官网口径显示,加上 bridge 后,4B 模型可追回与 753B 之间 50% 的性能差距,自身准确率提升约 25%;在更难的数据集上提升最高至 2 倍;与“大模型先写一段话再交给小模型”的方案相比,同等大模型计算量下最高可多拿约 10 个百分点。创始人还声称达到“frontier model 80% 的准确率,20× 更快”。不过,目前公开信息显示,这些数据既无论文也无复现代码,且与官网的 50% gap closure、2.5× compute saving 口径并不一致,只能当公司自报 benchmark 看待。

为什么重要

当前所有 Multi-Agent 基础设施默认“语言”是 AI 之间最好的通信协议,但这个假设可能只是因为 API 只能吐 token。人类需要语言,是因为无法复制神经状态;模型没有这个限制。如果不同模型的 latent space 能被稳定翻译,意味着“大模型读和想、小模型负责生成”的异构协作可能成为现实,代码模型、数学模型、视觉模型各自挂接,彼此传递的不再是 prompt。这会直接冲击当前以 token 计费的 API 商业模式,也可能让“一个超级模型通吃所有任务”的路线变得不再必要。对开源与闭源的竞争格局而言,如果小模型能借 bridge 获得接近大模型的能力,算力门槛和推理成本的结构性优势将重新分配。

对用户/开发者/创作者的影响

对开发者而言,如果该方案验证成立,未来构建 Agent 时可能不再需要为每个子任务调用超大模型,而是用大模型做“思考引擎”、小模型做“输出引擎”,直接降低推理成本和延迟。对 API 使用者来说,目前按 token 计费的模式可能面临根本性挑战——如果模型之间不再通过文字交互,中间过程的 token 消耗将从账单上消失。对普通用户而言,这意味着更快的响应速度和更低的边际成本,但现阶段这些影响都还停留在公司自述层面,需等待可复现的公开验证。对于企业采购方,建议在看到独立第三方评测前,不要仅凭 ARC-AGI 榜单名次或创始人宣称的数据做技术选型决策。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

首先,Mostik 是否会在 ARC-AGI 竞赛结束后公开技术细节或论文,是判断其真实性的第一个观察点。其次,bridge 是否支持任意模型组合——尤其是跨开源/闭源、跨架构(如稠密与 MoE)的泛化能力——决定了这项技术的适用边界。最后,如果主流推理框架或云厂商开始支持 hidden state 直传接口,将是对现有 token 经济体系的结构性松动,值得留意 OpenAI、Anthropic、Google 等头部玩家是否会跟进或做出防御性调整。

来源:@sleepy0x13

celebrityanime
celebrityanime
文章: 22021

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注