Recursive 推 rec 本地推理引擎:Mac 专属跑 Flint,称比 llama.cpp 快 1.4–2.6 倍

Recursive 开源了专为自家编码模型 Flint 打造的本地推理引擎 rec,只支持高端 Apple Silicon Mac,声称在 M4 Pro 上解码速度可达 llama.cpp 的 1.4–2.6 倍。值得关注,但需自行复测。

一句话看懂:Recursive 开源了专为自家编码模型 Flint 打造的本地推理引擎 rec,只支持高端 Apple Silicon Mac,声称在 M4 Pro 上解码速度可达 llama.cpp 的 1.4–2.6 倍。值得关注,但需自行复测。

事件核心:发生了什么

2026 年 10 月,Recursive 公司(组织名 recursive-oss)在 GitHub 开源了本地推理引擎 rec。它不做通用运行时,只服务 Flint 这一个“快速本地智能体编码”模型,并自动配置 pi 或 OpenCode 编码工具。硬件门槛明确:M4 Pro、M5 Pro 或 M5 Max,至少 48 GB 统一内存,约 30 GB 磁盘。发布时项目仅 151 Stars、6 个 commits,采用 Apache-2.0 协议。官方测试条件为 4-bit 权重、输出 1024 token、每个上下文长度跑五次、不含 prefill,对比对象是 llama.cpp。

为什么重要

当前本地推理赛道由 llama.cpp、Ollama、LM Studio 等通用运行时主导,rec 走的是“模型—引擎—工具链”垂直整合路线:围绕单一模型结构做针对性优化,换取速度。这与闭源模型厂商自建推理栈的思路类似,只是发生在开源一侧。它也提供了 OpenAI 与 Anthropic 兼容的本地 API,以及需要 token 鉴权的本地服务,说明本地部署正从“能跑”走向“能接进现有工作流”。

对用户/开发者/创作者的影响

开发者只需 rec launch pi 一条命令即可启动模型与编码工具,代码不出本机;已有客户端可通过 /v1/chat/completions 或 /v1/messages 接入,模型名均为 flint。但必须注意:它是单会话优化,多 agent 并行场景不适用;更换模型则无法使用;项目处于早期,接口可能变化;curl | bash 安装方式建议先审阅脚本。对符合硬件条件的 Mac 用户,这是一条值得自测的本地编码智能体路径。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是“1.4–2.6 倍”能否在第三方复测中成立——目前公开信息仅限单一机型、单一条件,且不包含 prefill;二是 Flint 模型本身的架构、上下文长度等细节能否补齐;三是项目能否从 6 个 commits 的早期状态走向稳定,以及是否支持更多设备。

来源:juejin

celebrityanime
celebrityanime
文章: 30036

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注