Eval bug: CUDA illegal memory access (MUL_MAT) on RTX 5090 with cohere2moe

该报错出现在 RTX 5090(Blackwell,compute 12.0)上用 llama.cpp CUDA 后端加载 cohere2moe 架构模型(如 North-Mini-Code-1.0)进行推理时,MoE 路径的 MUL_MAT 触发 CUDA illegal memory acces

该报错出现在 RTX 5090(Blackwell,compute 12.0)上用 llama.cpp CUDA 后端加载 cohere2moe 架构模型(如 North-Mini-Code-1.0)进行推理时,MoE 路径的 MUL_MAT 触发 CUDA illegal memory acces

该报错通常出现在 llama.cpp 的 llama-server 以 HIP 后端、多 GPU 运行 Qwen3.5 系(如 Qwen3.5-35B-A3B)模型并启用 context checkpoint( --ctx-checkpoints )后,加载或匹配检查点时触发 GPU 内存访问故障。

论文提出 Consistent Distribution Matching,一种无需蒸馏数据集、也无需教师模型反复采样的扩散与流模型蒸馏方法,在学生模型只做单次函数评估时,于 ImageNet 256×256 上取得 FID 2.04,目标是解决扩散模型推理慢的老问题。

在 Dify 中执行工作流测试运行时,如果实时 Tracing 面板显示“3 Iterations”或“4 Loops”却只能展开出一条记录,说明前端实时追踪按 node_id 覆盖了同一节点的多轮执行记录,需要优先排查 use-workflow-node-started.ts 与 debug-an
![[Bug] Code node: extractFunctionParams mis-parses destructured JavaScript params (the node's own default template) and multi-line signatures](https://www.chat-gpts.plus/wp-content/uploads/2026/10/44045-f1f5cdae-768x403.jpg)
在 Dify 代码节点面板中“应用”AI 生成或 AI 修改的代码后,输入变量列表出现异常(例如 JS 解构参数被识别成 {arg1, arg2} ,或 Python/JS 多行签名解析为空),通常与 extractFunctionParams 的正则解析有关。优先排查参数签名写法,并避免通过 AI

当 Dify 的 Console API 在处理请求时抛出未预期异常,代码会把原始 Python 异常字符串通过 InternalServerError(str(e)) 写入响应体,导致内部错误细节暴露给调用方。优先排查 message.py、external.py、hit_testing_base

Artificial Analysis 于 2026 年 10 月 19 日推出 AA-PersonalityBench,用 30 项人格特质、8 个指数和 21 项沟通特征,衡量大模型“怎么说话”而不只是“答得对不对”。对选型者来说,回答正确之外的默认表达风格,首次有了可量化参考。
![[Bug]: GPT-OSS Harmony json_schema/json_object constraints apply from token 0 and drop reasoning](https://www.chat-gpts.plus/wp-content/uploads/2026/10/60664-a41789cd-768x403.jpg)
该报错描述的是:在使用 GPT-OSS / Harmony 模型并通过 Chat Completions 传入 response_format ( json_schema 或 json_object )时,JSON 语法约束从第 0 个 token 开始生效,模型不再输出 an

在 LangChain 中通过 Bedrock Converse 调用只返回 reasoningContent.redactedContent 的推理模型(如 GPT-6 Sol/Luna/Astra)时,Bedrock Converse 翻译器会把该块丢成空壳 {'type': 'reasonin

在 transformers v5 中使用 AutoTokenizer 加载 Qwen3.6 / Qwen3.8 系列(以及声明了 "tokenizer_class": "Qwen2Tokenizer" 的派生 checkpoint)时, Qwen2Tokenizer.__init__ 会用模块内置