Thinking Machines 发布 Inkling 2 Mini:循环架构可在笔记本离线运行

Mira Murati 旗下 Thinking Machines Lab 发布了开源权重模型 Inkling 2 Mini,约 20GB 内存即可在笔记本上离线运行,凭借“中间层循环三次”的架构,在同等规模模型里取得较强的编程能力。

一句话看懂:Mira Murati 旗下 Thinking Machines Lab 发布了开源权重模型 Inkling 2 Mini,约 20GB 内存即可在笔记本上离线运行,凭借“中间层循环三次”的架构,在同等规模模型里取得较强的编程能力。

事件核心:发生了什么

该模型于 2026 年 11 月 21 日前后公布,采用混合专家结构:总参数 26.4B,每 token 激活 3.4B;计入循环后,每 token 约 5.4B 权重激活。模型共 24 层,分四组,首尾两组各跑一次,中间两组各跑三次。官方称其大部分权重以 Nvidia 4-bit NVFP4 格式训练和运行,无需后期转换,Apache 2.0 许可,上下文窗口 100 万 token。在 DeepSWE v1.1 上得 48.2%,SWE-bench Pro 困难任务集得 77.9%;素材中阿里 Qwen3.8-27B 同两项为 42.2% 和 73.8%。第三方 Artificial Analysis 给出智能指数 20,与 Qwen3.8 27B 持平,但单任务成本约 0.59 美元、耗时 9 分钟,对比 3.53 美元、38.2 分钟。

为什么重要

更关键的是技术路线:循环让模型“在内部多想、少写出来”。实验室称,去掉循环虽省 7.5% 训练成本,推理时却要多花 140% 算力才能追平。这直接牵动 AI 安全——思维链是监控模型的主要窗口,推理转入内部后,可见性会下降。Thinking Machines 同时放出可循环 1 至 5 次的研究模型,称五轮循环推理长度约为单轮一半,且未明显降低可监控性,但强调结论还是初步的。

对用户/开发者/创作者的影响

对个人开发者,这是少数能在 32GB 内存 Mac 上经 Ollama 离线跑的开源权重模型,权重已上 Hugging Face,适合做本地编程助手或演示应用。官方演示包括在飞行模式下用 MacBook Pro 几分钟生成可玩的飞行模拟器。局限也明确:多轮聊天和多重约束指令不如 Qwen3.8-27B,困难推理弱于更大模型,循环也不扩充事实记忆。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是研究模型能否复现,社区会检验“可监控性不降”的结论;二是本地部署实际体验与量化后内存占用;三是更深的循环训练是否会让推理进一步内隐,影响安全监管的可见性。

来源:The Next Web

celebrityanime
celebrityanime
文章: 36596

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注