一句话看懂：开发者 Akshay 在 M5 MacBook Pro 上用 Qwen3.5 9B 实测，Mirai 开源引擎 uzu 引入 DFlash+Weaver 后，同一提示词的生成时间从 42 秒降到 11 秒，约为常规推测解码的 2.6 倍加速。这值得关注，因为它指向本地大模型长期受制于内存带宽这一瓶颈的解法。
事件核心：发生了什么
2026 年 10 月 30 日，@akshay_pachaar 发文称，他在 M5 MacBook Pro 上以同一提示词测试 Qwen3.5 9B：不用推测解码耗时 42 秒，常规推测解码 30 秒，DFlash+Weaver 组合仅 11 秒。按他的说法，模型每次前向传播平均产出 7.5 个 token，而非 1 个；论文在 B200 GPU 上报告聊天、数学、代码任务解码速度提升 4 倍。
机制上，DFlash 这类草稿模型并行猜测多个位置，但各位置互不知情，一旦前面猜错，后续结果会被丢弃。Weaver 是叠加在 DFlash 之上的单层 Transformer 适配器，由左到右在候选词中做选择，让每一步依赖上一步，并展开候选树，再由主模型一次验证整棵树。Mirai 已将整套方案在面向 Apple Silicon 的 uzu 引擎中开源，并提供 brew install mirai 等两条命令的试用方式。目前公开信息显示，这些数据来自发帖者个人实测与论文摘要，尚未见同行评审或第三方复现。
为什么重要
本地推理的瓶颈往往不在算力，而在内存带宽：生成每个 token 都要把权重从内存搬到芯片，芯片大量时间处于等待状态。推测解码用便宜的小模型先猜、主模型批量校验，正是绕开这一瓶颈的思路。DFlash+Weaver 的价值在于提高每次验证的命中长度，把“每次只出 1 个 token”变成“每次出多个”，直接压缩等待时间。
对行业而言，这意味着在消费级硬件上运行 9B 级模型的门槛可能进一步下降；开源引擎加论文的组合，也会给 llama.cpp、MLX 等本地推理生态带来新的竞争参照。
对用户/开发者/创作者的影响
开发者可以关注 uzu 的接口与兼容性：它当前面向 Apple Silicon，若能在 Mac 上稳定复现 7.5 token/次的接受率，本地 Agent、代码补全等交互式应用的响应体验会明显改善。创作者和普通用户则要留意，这类加速依赖草稿模型与主模型的搭配，实际效果会随任务类型、上下文长度和硬件不同而变化，不能简单套用 4 倍这一数字。企业采购本地推理方案时，也应把可复现性和模型覆盖范围纳入评估。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 uzu 是否公布完整的基准测试与复现脚本，让社区在更多模型和芯片上验证；二是 Weaver 适配器能否泛化到不同规模的模型，而不只是 9B 场景；三是主流本地推理框架是否会跟进类似方案，以及论文是否进入正式评审流程。
