Strata 0.2.10发布:8GB显存跑128K上下文,DFlash2默认启用

开源本地大模型运行工具 Strata 于 2026 年 11 月 3 日发布 0.2.10 版,重点是把 128K 长上下文压进 8GB 显存设备,并让 DFlash2 推测解码成为默认选项,普通消费级 PC 跑大模型的门槛进一步下降。

一句话看懂:开源本地大模型运行工具 Strata 于 2026 年 11 月 3 日发布 0.2.10 版,重点是把 128K 长上下文压进 8GB 显存设备,并让 DFlash2 推测解码成为默认选项,普通消费级 PC 跑大模型的门槛进一步下降。

事件核心:发生了什么

据 AIbase 报道,Strata 0.2.10 在三个方向做了调整。显存方面,当显存不足时系统会动态压缩常驻 GPU 的 KV cache 窗口,必要时把部分缓存分摊到系统内存或磁盘,从而在 8GB 显存设备上保留用户设定的上下文长度,官方称可维持到 128K(131,072 tokens)。在 8GB 显存限制下开启 DFlash2 模式,生成速度可达 63 至 73 tokens/s;使用 Intel Arc A750 8GB 实测可启动 128K 上下文,速度为 12.7 至 14.8 tokens/s。

DFlash2 成为默认推测解码器,显存占用从 MTP 方案约 5.2GB 降至约 625MiB。多 GPU 方面新增 All-cards Split Engine,让多卡共同处理每一层模型,官方称双 RTX A6000 在 Linux 下代码编辑任务从 195 tokens/s 提升至 377 至 394 tokens/s。此外还加入基于 DeepSeek-V4.1-Flash 专家剪枝的编程模型 ISTA-DAS Coder,并修复了 Agent 审批按钮遮挡、子代理接收后续指令等问题。

为什么重要

长期以来,长上下文和低显存是本地开源大模型的两难:上下文越长,KV cache 越吃显存,8GB 显卡往往在 48K 左右就被迫妥协。Strata 的思路不是单纯压模型,而是把显存、内存、磁盘做成分级缓存,这直接决定开源模型能否在消费级硬件上进入实用区间。对闭源 API 而言,本地工具能力上探会分流一部分对隐私敏感、需要离线推理的开发需求,但目前公开信息显示这只是单点工具更新,尚不足以改变整体算力格局。

对用户/开发者/创作者的影响

对个人开发者,8GB 显卡搭配 32GB 以上内存有望跑起长文档摘要、代码库问答等 128K 场景;官方建议至少 32GB 内存,48GB 更合适,64GB 才能从容应对复杂任务。对多卡用户,All-cards Split Engine 在代码编辑类任务上的官方数据接近翻倍,但该结果仅限其测试条件,不宜外推为所有任务。对创作者,长上下文意味着更完整的素材输入,但吞吐仍取决于内存配置和硬盘速度。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 8GB 显存跑 128K 的实际可用性,需等更多第三方复测;二是 DFlash2 与 MTP 在多并发场景下的取舍是否会形成更细的默认策略;三是 ISTA-DAS Coder 首次下载所需存储较大,是否会成为新用户的门槛。

来源:AIbase

celebrityanime
celebrityanime
文章: 32175

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注