标签： LLM

当 LlamaIndex 配合 DeepSeek 模型使用 OpenAILike 时，会因默认调用已废弃的 /v1/completions 文本补全端点而返回 400 Bad Request。优先排查是否显式设置了 is_chat_model=True ，并确认 model 与 api_base 参

这个报错发生在 vLLM 0.24.0 专门为 SM8.6（Ampere）架构构建、并启用量化模型（AWQ/compressed-tensors）与投机解码时。优先排查 vllm/platforms/cuda.py 第 45 行附近的模块级导入是否使用了 logger.warning （每次导入都会

该报错通常发生在 vLLM 0.23.0 与 0.24.0 版本使用 Qwen3.6-35B-A3B-FP8 模型生成代码类内容时，服务端返回 400 Unterminated string starting at 错误。优先排查生成参数中的 stop 参数是否包含非法转义字符或未闭合字符串。

该报错通常发生在 RAGFlow 通过 Python SDK 调用 retrieve 接口时，传入的 rerank_id 与当前租户在后台注册的模型名称不一致（缺少厂商后缀）或尚未被授权。优先排查 rerank_id 是否使用了带 @VLLM / ___VLLM 后缀的完整模型名。

这是 RAGFlow 仓库 main 分支部署文件与 v0.25.6 旧镜像不兼容导致的启动失败。优先检查 docker/.env 中的 RAGFLOW_IMAGE 与实际使用的部署文件版本是否匹配，建议改回 v0.25.6 标签对应的部署配置，或改用 dev 镜像。