Nace AI开源Drex Max v1:27B决策模型可在24GB Mac本地运行

Nace AI 开源了决策模型 Drex Max v1 的权重,这是一个 27B 参数的模型,主打本地路由、分类和策略检查,4 位量化版本可在 24GB 以上的 Apple Silicon Mac 上运行。它的价值在于:原本要调用云端 API 的判断类任务,现在可以放到本地硬件上跑。

一句话看懂:Nace AI 开源了决策模型 Drex Max v1 的权重,这是一个 27B 参数的模型,主打本地路由、分类和策略检查,4 位量化版本可在 24GB 以上的 Apple Silicon Mac 上运行。它的价值在于:原本要调用云端 API 的判断类任务,现在可以放到本地硬件上跑。

事件核心:发生了什么

2026 年 11 月 1 日,Nace AI 以 Nace.AI Open RAIL-M 协议开放了 Drex Max v1 的模型权重。据官方公布,这是一个稠密 27B 模型,上下文窗口最高 262,144 个 token(默认 16,384),每道题最多支持 255 个选项。它不生成文本,而是接收状态(文本、JSON 或图像)和一组命名问题,在一次前向计算中为每个选项输出概率,问题类型包括多选、是否判断和序数打分。

发布内容除 bf16 权重外,还包括 Q8_0 GGUF、affine Q4 检查点,以及 llama.cpp 和 Ollama 的分支。官方给出 5 种运行方式:NVIDIA GPU 上的 Python 版支持图像输入,bf16 约需 49GB 显存;Apple Silicon 和纯 CPU 路径目前仅支持文本。评测方面,Decision Index 0.4 得分 67.52,高于 Drex v2.0 的 61.25。以上数据均为 Nace AI 自行报告,结论仅适用于该评测版本和条件。

为什么重要

Drex Max 走的不是通用对话大模型路线,而是“决策模型”这一细分方向。对 agent 系统来说,路由、工单分拣、护栏检查这类任务调用频繁、结果结构固定,正是云端 API 成本容易累积的环节。开源权重意味着开发者可以把这些判断留在本地,减少数据出域和按次计费。从技术角度看,量化后的精度损失不大:官方称在 48GB 的 M5 Pro 上,Q8_0 GGUF 与 H100 bf16 的概率差在 0.02 以内,affine Q4 与 Q8_0 相差 0.0329,没有出现选择翻转。不过这些仍是厂商自测数据,需要社区独立验证。

更值得注意的是“本地可跑”带来的成本结构变化。Nace 托管版定价为每 1000 次决策 0.03 美元,低于其前代产品。开源版把边际成本压向零,但需要用户自备硬件和运维能力,两条路线各有取舍。

对用户/开发者/创作者的影响

对开发者来说,最直接的好处是可以基于统一的 POST /v1/systemone API 搭建本地决策服务。24GB 以上内存的 Mac 用 MLX 或 Kapitsa 加载 affine Q4(14.45GB)即可起步,48GB 机型用 Q8_0 更稳妥。需要注意,Mac 和 CPU 路径目前不处理图像,视觉能力仍依赖 NVIDIA 方案。对企业和合规敏感场景,本地推理减少了敏感数据外传,但 Open RAIL-M 的使用限制仍需逐条确认。对普通用户和创作者而言,这是基础设施层面的变化,短期内不会直接改变内容工具的使用体验。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是第三方复现结果能否支撑官方给出的 Decision Index 和量化精度数据;二是 Apple Silicon 和 CPU 路径何时补上图像输入;三是开源版是否会分流其托管 API 的商业需求,以及 Nace AI 后续版本的迭代节奏。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 31665

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注