Reasoning trace is not being returned when using an AzureChatOpenAI model from Microsoft Foundry

快速结论：使用 AzureChatOpenAI 流式调用时，推理痕迹（reasoning trace）不会出现在 content_blocks 中，而是位于每个 AIMessageChunk 的 additional_kwargs["reasoning"] 下。优先检查是否从 additional_kwargs 提取，而不是 content_blocks。

问题场景

用户在 LangChain 中使用 AzureChatOpenAI 模型（部署于 Microsoft Foundry 的 gpt-5-nano），设置 reasoning={"effort": "medium", "summary": "detailed"} 并通过 model.stream() 流式输出，期望从 chunk.content_blocks 获取推理层 token，但输出为空。该模型在直接使用 OpenAI Responses API 时可以正常返回推理痕迹。

报错原文

No reasoning trace is output.
Expected output: reasoning tokens should be output

原因分析

这不是一个功能 Bug。推理摘要（reasoning summary）确实通过 SDK 流式返回，但 LangChain 的 AzureChatOpenAI 集成将其放在 AIMessageChunk 的 additional_kwargs 中，而非 content_blocks。用户按照文档示例从 chunk.content_blocks 提取，自然拿不到数据。文档（docs）示例代码未覆盖 AzureChatOpenAI 的实际情况。

环境排查

• langchain-openai: 0.3.35
• langchain-core: 1.2.0 (需确认)
• langchain: 1.1.3
• openai: 2.8.1
• Python: 3.12.12
• OS: macOS Darwin (仅报告用)

解决步骤

1. 将提取逻辑从 content_blocks 改为 additional_kwargs。示例代码如下：

   for chunk in model.stream("what is capital of France?"):
       additional_kwargs = getattr(chunk, "additional_kwargs", None) or {}
       reasoning = additional_kwargs.get("reasoning")
       if isinstance(reasoning, dict):
           summary = reasoning.get("summary")
           if isinstance(summary, list) and summary:
               for item in summary:
                   if isinstance(item, dict) and item.get("type") == "summary_text":
                       text = item.get("text")
                       if text:
                           print(text, end="")
     

2. 如果需要同时处理 content 和推理文本，可在同一循环中分别提取：

   for chunk in model.stream(...):
       if chunk.content:
           print(chunk.content, end="")
       # 同时从 additional_kwargs 提取推理
       ...

验证方法

运行修改后的代码，确认控制台能够打印出推理摘要文本（例如 “The capital of France is Paris…” 等推理过程）。如果输出正常，说明问题解决。

参考来源

langchain-ai/langchain #34439

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。