LM Studio 与苹果合作,成功用四台 Mac Studio 运行万亿参数 Kimi K2.6 大模型

在苹果 WWDC 2026 期间,LM Studio 联合苹果用四台 Mac Studio 组成集群,成功运行月之暗面(Moonshot AI)的万亿参数大模型 Kimi K2.6,并通过 LM Link 功能实现从 MacBook Neo 和 iPhone 上安全远程访问。这一演示证明,消费级硬件集群已具备…

LM Studio 与苹果合作,成功用四台 Mac Studio 运行万亿参数 Kimi K2.6 大模型

一句话看懂:在苹果 WWDC 2026 期间,LM Studio 联合苹果用四台 Mac Studio 组成集群,成功运行月之暗面(Moonshot AI)的万亿参数大模型 Kimi K2.6,并通过 LM Link 功能实现从 MacBook Neo 和 iPhone 上安全远程访问。这一演示证明,消费级硬件集群已具备承载前沿规模大模型推理的能力,对 AI 本地化部署和隐私保护具有重要意义。

事件核心:发生了什么

根据 LM Studio 官方介绍,演示中四台 Mac Studio 通过苹果的内存共享与互联技术形成集群,统一内存容量约达到 1.5TB,足以承接 Kimi K2.6 模型的推理需求。Kimi K2.6 总参数规模为 1 万亿,采用 MoE(混合专家)架构,激活参数为 320 亿,支持长上下文、多模态输入以及智能体任务。LM Link 功能已在 2026 年 6 月初更新至 LM Studio Mac 应用和 Locally AI iOS 应用中,支持端到端加密连接,确保用户数据和通信始终本地化处理。

为什么重要

这一合作直接展示了两个关键趋势:一是万亿参数级大模型不再完全依赖昂贵的专用 GPU 集群,消费级多设备集群可通过统一内存架构实现高效推理;二是苹果正通过 Thunderbolt 5 RDMA 等多设备内存共享技术,将 Mac 生态从个人计算设备拓展为可用的 AI 推理节点。对于 AI 行业而言,这意味着“模型规模”与“硬件价格”之间的传统壁垒正在被打破——LLM 推理成本的下降可能比预期更快到来。LM Studio 作为本地 AI 运行平台,与苹果的合作也为开源模型在消费硬件上的落地提供了可复制的范式。

对用户/开发者/创作者的影响

对于普通用户和开发者,这一演示意味着未来可以在不依赖云服务的条件下,本地处理超大规模模型的推理任务,隐私和数据安全得到更好保障。假设 LM Studio 后续开放类似集群配置功能,开发者可以用四台 Mac Studio(或类似配置的 Mac 设备)自行搭建私有推理服务,运行千亿甚至万亿参数模型,进行本地化的多模态内容生成、长文档分析或智能体任务。目前公开信息显示,类似配置下该模型在特定模式已达到约 28 tokens/s 生成速度,功耗远低于传统 GPU 集群。创作者或研究者可直接从 iPhone 或 MacBook 调用本地大模型,无需担心 API 调用成本或数据传输风险。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

首先,LM Studio 是否会推出针对 Mac Studio 集群的官方部署工具或配置指南,将直接影响这一方案的实际可复制性。其次,苹果是否会在未来版本的 macOS 中加入更便捷的多设备内存共享接口,降低多机集群搭建门槛,是硬件生态方面的重要观察点。最后,月之暗面是否会将 Kimi K2.6 以开源形式释放供社区部署,将决定这一方案能否从演示走向大规模应用。此外,Thunderbolt 5 RDMA 的带宽瓶颈在多节点环境下是否制约模型响应速度,也是验证其工程可行性的关键。

来源:IT之家 (ITHome)

celebrityanime
celebrityanime
文章: 9045

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注