标签: Python

Web component

Web component

这个报错发生在 Gradio Web component 所需的 gradio.js 静态资源托管于 AWS S3 某个区域桶(s3-us-west-2)上,而该区域在部分网络环境下被阻断,导致页面无法加载组件。优先排查方向是确认本地网络能否直接访问 S3 桶地址,以及 Hugging Face S

CUDA out of memory

CUDA out of memory

在 vLLM 中,Model Runner V2 作为稠密模型默认执行器时,`profile_cudagraph_memory()` 返回 0,导致 CUDA graph 内存未预留在 KV cache 之外,`capture_model()` 阶段出现 OOM。优先排查方式:确认是否启用了 Mod