一句话看懂：PrismML 发布 Bonsai 27B，基于 Qwen3.6 27B 构建，通过 1-bit 和三元权重技术将模型压缩至 3.9GB 和 5.9GB，首次让 27B 参数级别的多模态模型（支持视觉、工具调用、代理循环）在手机和笔记本上本地运行。
事件核心：发生了什么
2025 年 5 月，PrismML 宣布推出 Bonsai 27B，这是 Bonsai 系列的新旗舰多模态模型。它提供两个变体：1-bit 版（有效位宽 1.125 bits/权重，3.9GB）适配 iPhone 17 Pro 级别的内存限制；三元版（有效位宽 1.71 bits/权重，5.9GB）可在普通笔记本上运行。两个版本均采用全网络低比特表示，包括嵌入、注意力、MLP 和语言头，无精度“后门”。模型还配备了紧凑 4-bit 视觉塔，支持 262K 上下文和推测解码加速。在 15 项基准测试中，三元版保留全精度基线 95% 性能，1-bit 版保留 90%，数学和编码任务几乎无损。1-bit 版在 RTX 5090 上可达 163 tok/s，三元版为 134 tok/s。
为什么重要
传统 27B 模型在 16-bit 下需 54GB，4-bit 量化仍需 18GB，远超手机可用内存（12GB 手机实际约 6GB 可用）。Bonsai 27B 将 27B 级能力压缩至 2-4GB，实现了“智能密度”飞跃——1-bit 版每 GB 智能密度为 0.53，是全精度基线的 10 倍以上，也优于最佳低比特替代方案 2.7 倍。这直接解决了代理工作负载（多步推理、工具调用、文档合成）在云端执行的三大弊端：每步远程请求的高延迟、累积的 token 成本、用户数据经网络传输。本地执行使代理可常驻设备，实现零边际成本的百步循环和数据绝对私密。它还为混合部署（本地处理敏感/非前沿任务，云端处理最困难步骤）提供了系统架构可能。
对用户/开发者/创作者的影响
对开发者：Apache 2.0 许可使模型可自由集成于产品，打造离线、持续运行的 on-device 代理，无需依赖云端 API 的重复计费。混合部署路径可按任务复杂度路由，显著降低单体 agent 系统的每任务成本。对硬件用户：在 iPhone 17 Pro 级设备、M5 Max 笔记本（1-bit 版 87 tok/s）或中端显卡上即可运行 27B 级推理，不再局限于高端工作站。对创作者：本地视觉塔支持屏幕截图、文档和摄像头输入，可构建私密、无需联网的知识助手或内容分析工具。所有变体今日即可下载。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
1. 手机端真实体验：虽然模型大小通过内存门槛，但推理速度、电池续航和 KV 缓存在真实移动设备上的表现需实测验证。2. 竞品反应：苹果、高通等拥有端侧芯片能力的公司，以及 Meta、Google 等开源模型厂商，可能加速量化技术或推出对标产品。3. 生态闭环：PrismML 是否围绕 Bonsai 构建插件、微调工具或混合云服务，将决定其能否从技术演示演变为可复用的 agent 开发平台。
