[Bug]: chatgpt/* ignores the client’s stream:false since v1.90.0; /v1/responses returns raw SSE and /chat/completions raises “Unknown items

快速结论：当 LiteLLM 代理版本为 v1.90.0 及以上，向 chatgpt/* 模型发送 stream: false 的非流式请求时，代理会忽略客户端的 stream 设置，强制走流式路径，导致 /v1/responses 返回原始 SSE 字符串，或 /v1/chat/completions 抛出 “Unknown items in responses API response: []”。优先确认 LiteLLM 版本并检查是否使用了 chatgpt/* 提供商。

适用环境：LiteLLM 代理（proxy）v1.90.0 及之后版本（Issue 中确认在 v1.91.3 复现）；v1.89.5 不受影响。使用 chatgpt/* 模型路由，且客户端发送非流式请求。其他提供商（如 openai/*、azure/*）不受影响。

最快修复方案：暂无确认的一步修复方案。Issue 中提到修复已在 #41235 合并，预计随下一个版本发布，可升级到包含该修复的 LiteLLM 版本。

注意事项：该问题仅在 chatgpt/* 提供商下出现，是 v1.90.0 引入的流式判断逻辑回归；在修复版本发布前，临时规避方式可能包括降级到 v1.89.5 或避免对该提供商发起非流式请求，但这些尚未在 Issue 中验证。

问题场景

用户通过 LiteLLM 代理调用 chatgpt/* 模型（例如 chatgpt/gpt-5.5），在 config.yaml 中配置 model_list 并启动代理后，发送 stream: false 的非流式请求。该问题在 /v1/responses 和 /v1/chat/completions 两个端点表现不同：前者返回原始 SSE 流，后者在响应桥接过程中收集空输出并报错。

报错原文

Cannot use 'in' operator to search for 'object' in data: <entire SSE stream>

litellm.APIConnectionError: APIConnectionError: ChatgptException - Unknown items in responses API response: []

原因分析

v1.90.0 的 commit cfcdf871（PR #30202）在 llm_http_handler.py 的同步和异步 Responses 处理器中，将流式判断从仅检查客户端请求的 stream 字段，改为 bool(stream or data.get("stream"))。此处的 data 是提供商 payload，而 ChatGPTResponsesAPIConfig.transform_responses_api_request 会无条件设置 request["stream"] = True，因此 data.get("stream") 对 chatgpt/* 始终为 True，导致客户端即使发送 stream: false 也会被强制走流式路径。

在 /v1/chat/completions 上，请求经过 Responses 桥接后，_collect_response_from_stream 会排空流并只保留 response.completed 事件中的 response 对象。Codex 后端可能发出空 output 的最终事件，而 v1.87.0 为 #26309 添加的安全网 _recover_output_items_from_raw_sse 依赖 original_response，该字段仅由非流式路径的 ChatGPTResponsesAPIConfig.transform_response_api_response 填充，流式路径不再调用它，因此恢复逻辑返回 [] 并抛出异常。

环境排查

确认 LiteLLM 版本是否在 v1.90.0 及以上（Issue 中确认 v1.91.3 可复现）。
确认是否使用 chatgpt/* 模型路由，而非 openai/* 或 azure/*。
确认客户端请求中 stream 是否设置为 false。
检查代理配置 config.yaml 中 model_list 的 litellm_params.model 是否为 chatgpt/*。
若使用 Docker，确认官方镜像中 litellm 版本是否与报告一致。

解决步骤

确认当前 LiteLLM 版本：若为 v1.90.0 至修复版本发布前的版本，且使用 chatgpt/*，则可能受此问题影响。
关注 LiteLLM 发布说明，升级到包含 #41235 修复的版本。
若无法立即升级，可评估临时降级到 v1.89.5（Issue 确认该版本正常），但需注意降级可能带来其他兼容性影响。
若必须保持当前版本，可尝试避免对 chatgpt/* 发起非流式请求，改为使用流式接口并自行处理 SSE，但该规避方式未在 Issue 中验证。

验证方法

升级到包含修复的版本后，向 chatgpt/* 模型发送 stream: false 的 /v1/responses 请求，确认返回单个 JSON 对象而非原始 SSE 字符串；同时测试 /v1/chat/completions 非流式请求，确认不再出现 “Unknown items in responses API response: []” 错误。