标签: Python

[Bug]: aiohttp per-host pool exhaustion is silent, requests just time out with no diagnostic

[Bug]: aiohttp per-host pool exhaustion is silent, requests just time out with no diagnostic

该问题通常发生在 LiteLLM Proxy 通过 aiohttp 访问同一上游主机(例如 Ollama 或其他 OpenAI 兼容推理服务)时,默认每主机连接池被占满;此时请求只会一直等待直到请求超时,并以普通超时错误结束,日志中不会提示连接池已耗尽。优先排查上游真实并发、代理进程到上游的 EST