一句话看懂：2026年7月15日，Thinking Machines在Hugging Face上开源了Inkling，一个约1万亿参数、支持100万上下文窗口的原生多模态大模型。它同时处理文本、图像、音频，并具备智能体能力，是开源社区迄今为止规模最大、模态最全的模型之一。
事件核心：发生了什么
Thinking Machines发布了Inkling，这是一个975B总参数（41B活跃参数）的稀疏混合专家（MoE）解码器模型。它原生支持文本、图像和音频输入，上下文窗口高达100万token，训练数据为45万亿token，涵盖文本、图像、音频和视频。模型采用相对位置编码、5:1滑动窗口与全局注意力混合机制、1D短卷积（SConv）以及共享专家池（2个始终在线+Top-6路由专家）等独特架构。视觉部分使用分层MLP分块器（hMLP），音频部分采用离散化梅尔频谱图嵌入，无需额外独立编码器。模型发布即日起，在transformers、SGLang、vLLM、llama.cpp中可获得完整支持。BF16精度需约2TB显存，NVFP4版本需约600GB显存，后者已提供校准后的量化版本。
为什么重要
Inkling是首个同时实现三个突破的开源模型：1万亿参数规模、原生多模态输入（图像/音频/文本）、100万token上下文窗口。此前，开源大模型通常只在单一模态或有限上下文上达到类似规模。它的MoE架构使每次推理只激活4%的参数（41B），将理论算力需求拉回到可部署范围，这为中小开发者落地超大模型提供了一条可行路径。同时，Thinking Machines并未使用CLIP或Whisper等外部编码器，而是将图像和音频直接映射为token序列，使模型有潜力在微调时端到端学习跨模态推理，而非依赖冻结的预训练编码器。这一思路可能推动下一波多模态推理应用开发。
对用户/开发者/创作者的影响
对开发者而言，Inkling的day-0多引擎支持降低了上手门槛：可直接用transformers加载、用SGLang/vLLM做高吞吐推理，或用llama.cpp进行本地量化部署。NVFP4版本将显存需求从2TB压缩至600GB，使配备4卡H100（每卡80GB）的GPU服务器也能尝试推理。对多模态应用开发者，原生音频和图像理解能力意味着无需拼接多个模型即可完成“看图说话”“听音识文”“图文混合推理”等任务。对创作者而言，100万token上下文能够一次性处理整本小说、长篇播客转录或数十帧视频描述，适合长文档分析、多模态对话和复杂内容摘要。但需注意，模型体积庞大，个人设备难以运行，目前只能通过云端推理服务或自有算力集群使用。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
首先，Inkling在视频和时间序列处理上虽有架构预留，但官方未提供即开即用的视频评估结果，实际表现需要社区验证。其次， Thinking Machines是否提供微调工具链及配套训练数据成为关键——45万亿token的训练数据细节尚未公开，第三方是否能复现或改进其能力存疑。最后，推理成本与速率：尽管有MoE和量化方案，600GB显存对多数团队仍属昂贵，未来是否有更小蒸馏版本或API化商业版本，将直接影响其开发者生态扩张速度。
