标签： LLM

用户在 llama.cpp 的 llama-server 中启用 DFlash 投机解码（ --spec-type draft-dflash ），并设置 --cache-type-k 和 --cache-type-v 为 q8_0 （非默认值）时，在首次 draft decode 阶段发生段错误。硬

用户在 Ollama 中尝试加载 Seed-OSS-36B-Instruct-GGUF 的 Q4_K_M 量化版本时出现 500 内部错误，相同环境下载入 Seed-Coder-8B-Instruct 则无问题。社区反馈该模型在 LM Studio(非 Ollama)上可以运行，但工具调用（Tool

用户从 Hugging Face 下载了所有可用的 plamo-2-translate-gguf 模型，尝试通过 ollama run hf.co/mmnga/plamo-2-translate-gguf:Q8_0 等命令在 Ollama 中运行，但触发错误。

用户在 Ollama 中运行 mirage335/NVIDIA-Nemotron-Nano-9B-v2-virtuoso 模型（一个基于 NVIDIA Nemotron Nano 9B 的 MoE 模型）时，通过 --verbose 参数发起推理请求，模型加载失败并返回 500 错误。该问题在之前的

用户在 UOS 操作系统上使用 RAGFlow 0.22.1 版本，通过 docker compose -f docker-compose.yml up -d 部署时，Elasticsearch 容器（镜像 elasticsearch:8.11.3 ）始终处于 Starting 状态，端口映射为 1

用户通过 FunctionAgent 设置 structured_output_fn 回调，并期望在 agent 执行完毕后自动触发。在直接调用 agent.run() 时行为正常；但当该 agent 被放入 AgentWorkflow 并用 workflow.run() 驱动时，回调从未被调用。如