Misc. bug: SYCL bf conversion instruction not supported! Arrow Lake iGPU

问题场景

用户在 Windows 上使用 llama.cpp 的 SYCL 后端运行 llama-server 和 llama-completion，目标设备为 Intel Ultra 9 285K（Arrow Lake）iGPU。加载 MiniCPM-V-4.7-35B-A3B-Q4_K_M.GGUF 时，报错出现在首次执行算子（OP MUL）阶段；随后用不含 bf16 张量的 Qwen3-0.6B-UD-IQ3_XXS.GGUF 也能复现同样报错，说明与具体模型是否含 bf16 张量无关。受影响的不只是优化参数复杂的 server 启动命令，最简单的 llama-completion 命令同样触发。

报错原文

error: in kernel 'bin_bcast_sycl<op_add/ sub / mul / div...>
       <bfloat16, bfloat16, bfloat16>...':
       bf conversion instruction not supported!
error: backend compiler failed build.
Exception caught at ggml-sycl.cpp:6399, Error OP MUL

评论中补充的报错形式：

error: in kernel 'typeinfo name for void convert_unary_nc_sycl<sycl::_V1::ext::oneapi::bfloat16, sycl::_V1::detail::half_impl::half>(void const*, sycl::_V1::detail::half_impl::half*, long long, long long, long long, long long, long long, long long, long long, sycl::_V1::queue*)::'lambda'(sycl::_V1::nd_item<3>)': bf conversion instruction not supported!
error: backend compiler failed build.

更早版本（b7311）出现的报错：

Failed to load libsycl-native-bfloat16.spv

原因分析

最可能的原因是：PR #17780 引入的 GGML_SYCL_HAS_BF16 仅在编译期判断 DPC++ 是否带有 bf16 头文件，预编译 Release 包中该条件恒成立，于是 bf16 模板实例被无条件打包进 SPIR-V 设备映像，缺少针对目标硬件能力的运行期门控。

当 runtime 首次执行任一算子时，DPC++ runtime 会把整个 SPIR-V 模块交给 IGC 编译；IGC 逐 kernel 处理到 bf16 kernel 时，由于 Arrow Lake Xe-LPG 的 BFLOAT16_CONVERSIONS_NATIVE=false，不具备原生 bf16 转换指令，且未做模拟回退，因此整个构建失败，所有 kernel 一并不可用。报错指向的只是第一个触发构建的算子，与模型是否含 bf16 张量无关。以上运行期门控的判断来自 Issue 评论者的个人推测，尚未在该 Issue 中得到维护者确认。

环境排查

• 确认 llama.cpp 版本：是否处于 b7311 至报错版本之间；b7310 及之前为正常对照。
• 确认 GPU 型号与对应 bf16 能力（Arrow Lake iGPU 为 BFLOAT16_CONVERSIONS_NATIVE=false），可用 --list-devices 查看设备信息。
• 确认 Intel 显卡驱动版本（Issue 中为 32.0.101.9150）。
• 确认是否为 SYCL 后端（ggml-sycl）以及是否为官方预编译 Release 包；GGML_SYCL_HAS_BF16 的编译期判断与预编译包行为相关。
• 确认构建工具链（Issue 中为 Clang 20.1.8）。
• 用不含 bf16 张量的小模型（如 Qwen3-0.6B-UD-IQ3_XXS.GGUF）交叉验证，若仍报错，可排除模型因素。

解决步骤

1. 先确认回归区间：在 b7310 及更早版本上运行同一命令，确认可正常加载并执行；在 b7311 及之后版本复现报错。
2. 可优先尝试回退到 b7310 或更早的版本，作为临时规避手段，恢复 SYCL 后端的正常使用。
3. 使用最小复现命令缩小范围（Issue 评论中使用）：llama-completion -m <model> -p "..." -n 200 -e -ngl 99 -s 0 -c 4096 -sm layer --device SYCL0 --load-mode auto -lv 3，确认报错稳定出现。
4. 若可自行编译，可优先尝试在本地配置中规避 bf16 路径（例如仅构建不含 bf16 支持的后端），但这属于探索性做法，需自行验证。
5. 关注 #31029 及 PR #17780 后续是否补充运行期设备能力门控，等待官方修复版本。

验证方法

重新运行此前复现的 llama-completion/llama-server 命令，确认不再出现 bf conversion instruction not supported! 与 backend compiler failed build.，且模型能完成加载并输出 token；同时可用 test-backend-ops.exe -o ADD 检查 bf16 相关用例是否 OK（注意：评论中该测试在 140T iGPU 上通过，与本 Issue 的 285K 设备结果不同，不能单独作为修复依据）。

参考来源

ggml-org/llama.cpp #31029

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。