[Vulkan] FA f16-scratch fast path never enabled for hybrid-model (non-unified) KV caches
![[Vulkan] FA f16-scratch fast path never enabled for hybrid-model (non-unified) KV caches](https://www.chat-gpts.plus/wp-content/uploads/2026/09/28135-2a4ef7fa-768x403.jpg)
该报错通常出现在混合架构模型(如 Qwen3.8,包含 DeltaNet/SSM 层)在 Vulkan 后端运行量化 KV 缓存时,Flash Attention 的 f16-scratch 快速路径未被触发,导致 prefill 性能显著下降。优先检查 `ggml_vk_flash_attn()`
先解决问题,再了解资讯。选择你现在要完成的任务。
![[Vulkan] FA f16-scratch fast path never enabled for hybrid-model (non-unified) KV caches](https://www.chat-gpts.plus/wp-content/uploads/2026/09/28135-2a4ef7fa-768x403.jpg)
该报错通常出现在混合架构模型(如 Qwen3.8,包含 DeltaNet/SSM 层)在 Vulkan 后端运行量化 KV 缓存时,Flash Attention 的 f16-scratch 快速路径未被触发,导致 prefill 性能显著下降。优先检查 `ggml_vk_flash_attn()`

该报错发生在 llama.cpp(含 llama-server)通过 Vulkan 后端加载 GGUF 模型时,在内存适配(-fit)或模型张量加载阶段立即触发分段错误(segfault)。首要排查方向是回退到已知可用的 cb295bf 版本,并检查 Vulkan 驱动(RADV)与 llama.c

Perplexity 将自研的推理引擎 Lily 开源,这是一款专为 Apple Silicon 设计的 Rust + Metal 方案,目的是在 Mac 上更高效地运行 Qwen3.6-35B-A3B 这类大模型。它标志着搜索公司开始向底层推理工具链延伸,也为本地 AI 运行提供了一条避开 CUDA 依赖的…

Anker 在 IFA 2026 上发布了 Eufy MindBase——一个主打本地 AI 处理的智能家居中枢,内置自研大模型,能在不上传视频素材的前提下完成人、车、宠物识别和自然语言搜索,试图用“隐私安全”作为差异化卖点切入家庭 AI 市场。

Anthropic与英伟达支持的云服务商Lambda签署了一笔350亿美元的数据中心协议,为Claude系列模型和Claude Code扩建算力基础设施。这是Anthropic在IPO前密集加码算力储备的最新动作,反映出头部AI实验室对大模型训练与推理资源的争夺已进入数百亿美元量级。

英伟达CEO黄仁勋在G20创新部长会议上公开呼吁各国不要因过度恐惧而限制AI发展,主张把AI基础设施视同电力、公路一样的基础投入,并强调“错过技术浪潮”才是唯一真正的风险。

腾讯旗下全场景 AI 智能体工作台 WorkBuddy 已原生适配银河麒麟与统信 UOS 两大国产操作系统,并同步上架多个应用商店。这标志着该产品不再只依赖云端或 Windows 生态,而是真正进入国产化办公终端,为信创和政府场景的 AI 落地铺平了道路。

百度基础模型部(BMU)迎来关键人事调整——北美前沿实验室研究员吴琴和前 DeepSeek 核心成员魏浩然加盟,后者已出任文心多模态算法团队负责人。这标志着百度在文心大模型 5.0 发布后,正通过引入外部技术力量加速追赶国际顶级 AI 实验室的研发节奏。

百度基础模型研发部门(BMU)再次引入关键人才,原DeepSeek研究员魏浩然已带队加入并出任文心多模态算法负责人,同时从北美前沿实验室引入资深大模型研究员吴琴。此次调整延续了百度在孙天翔入职后对基础大模型架构的系统性改组,核心目标是在多模态和预训练能力上补强。

OpenAI 首席执行官萨姆·奥特曼正式确认,公司将自研人形机器人并同步推进多款 AI 硬件,首款无屏终端计划于 2027 年发布,IPO 也预计在同一年完成,标志着这家大模型公司从纯软件向实体硬件和具身智能全面扩张。