在 llama.cpp 的 CUDA 后端上运行 MoE 模型时，如果二进制或构建过程按较旧的 compute capability 生成 PTX（例如用 61-virtual ），再在 Turing/Volta 等较新的显卡上通过 JIT 运行，那么遇到 5–8 个 token 的 MoE 小批次
微软在 GitHub 上维护着一套开源语音模型 VibeVoice，其 ASR 模型能单次处理 60 分钟长音频并输出“谁在何时说了什么”的结构化转写；2026 年又加入了流式识别和面向 CPU 的边缘推理版本。
![Muse tool parser JSON-decodes Optional[str] parameters, so "10001" becomes 10001](https://www.chat-gpts.plus/wp-content/uploads/2026/11/64546-39a741f7-768x403.jpg)
使用 vLLM 的 Muse tool parser 时，若工具参数声明为 Optional[str] （即 ["string", "null"] 或 anyOf 写法），解析器会把原本的字符串值当成 JSON 解码，导致 "10001" 变成数字 10001 ，客户端拿到的类型与 schema 不
arXiv 上一篇新论文指出，LLM 生成代码的“验证通过率”会掩盖两层失效：证明义务未必绑定到规格，而规格也未必忠实于真实需求。作者用两组实验显示，高通过率与低语义正确性可以同时存在。
![[Bug]: runai_safetensors_weights_iterator yields tensors in nondeterministic order, breaking FP8 inference on some platforms](https://www.chat-gpts.plus/wp-content/uploads/2026/11/38991-8f2a5705-768x403.jpg)
该问题出现在用 --load-format runai_streamer 加载 FP8/NVFP4 权重的场景，典型表现是权重流式加载阶段无报错、服务正常启动并返回 HTTP 200，但生成结果为空。优先排查 checkpoint 的 safetensors 分片是否包含空文件，以及分片加载顺序（g
![[Feature Request]: Go ingestion: support media context windows for book, paper and manual pipelines](https://www.chat-gpts.plus/wp-content/uploads/2026/11/21029-93c956ab-768x403.jpg)
[Feature Request]: Go ingestion: support media context windows for book, paper and manual pipelines 属于 RAGFlow Go 摄取链路的 功能缺失 反馈，不是崩溃报错：book、paper、manu
在 Apple Metal 上运行 GLM-5.3-Flash 解码时，若出现 "Eval bug: GLM-5.3-Flash decode stalls on Metal because fused Lightning Indexer falls back to CPU"，通常发生在启用 fus
该问题出现在 llama-server 开启统一 KV（ -kvu ）并使用 --cache-idle-slots 时，一个新任务到来会触发空闲 slot 的回写保存；交错 KV cell 会让这次保存拆成大量阻塞式 ggml_backend_tensor_get ，并伴随大量 cudaMemcpy
Hugging Face Papers 收录的论文 ToolSpace 提出一种“以工具为中心”的 MCP 环境合成流程，声称能生成更难的长期任务基准，并提升小模型的工具使用表现。其结论来自摘要，尚未核验全文实验。
arXiv 新论文提出基准 Unsatz，不再替 AI 预设变量和候选方程，而是要求大模型智能体自己决定模型结构；九个语言模型在 80 个模拟系统上的成功率为 21% 至 60%，难点集中在“找结构”而非“估参数”。