
一句话看懂:开源工具 PromptShark 在 AI 代理与 OpenAI API 之间插入一个本地透明代理,实时拦截、记录并可视化每一次请求/响应,并利用 C++ 引擎自动检测代理陷入无限工具调用循环的情况。开发者只需修改一行 base_url 即可集成,无需改动业务代码。
事件核心:发生了什么
PromptShark 是一个新发布的开源项目,由 Go 编写的代理层和 C++ 编写的循环检测核心组成。它支持流式与非流式请求,实时追踪 token 用量和美元成本,并测量首 token 时间(TTFT)。其“时间旅行重放”功能允许用户编辑任意历史步骤的 JSON 载荷、预览差异并从此处重跑,之前步骤从 SQLite 缓存直接返回,不产生额外 API 费用。该工具通过 WebSocket 驱动的实时仪表盘呈现,具备会话搜索、过滤、自动切换和 Markdown 导出功能。安装方式包括 Docker、预编译二进制包或从源码构建。
为什么重要
AI 代理在使用工具调用时,容易因逻辑错误或提示设计不当进入无限循环,导致 API 费用快速消耗和系统响应停滞。PromptShark 提供了一种低成本的调试手段:它无需修改代理代码,仅通过重定向 API 端点即可捕获完整调用链。单独的 C++ 引擎通过 IPC 与代理通信,能快速哈希对比每次工具调用,在达到可配置阈值前及时告警。这类工具填补了当前 AI 代理开发中“可见性”与“调试能力”之间的空白,尤其对构建多步推理或自主决策的代理场景具有实用价值。
对用户/开发者/创作者的影响
对于使用 OpenAI SDK 构建 AI 代理的开发者,PromptShark 提供了一条零代码侵入的调试路径:只需在客户端代码中将 base_url 改为 http://localhost:8080/v1,即可获得完整的请求日志、循环检测和重放能力。这能显著降低排查代理行为异常的时间成本。对于团队协作场景,Markdown 导出和对会话的搜索筛选功能有助于记录和共享调试过程。对预算敏感的个人开发者,重放功能利用本地缓存可减少重复的 API 调用,间接节省费用。不过,该工具目前仅支持 OpenAI API,对其他厂商的支持尚未提及。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
第一,PromptShark 是否会被扩展以支持更多 API 提供商(如 Anthropic、Groq 或国产模型),这将决定其适用面。第二,循环检测的 C++ 引擎能否处理高并发或长会话场景,是生产环境使用的关键。第三,社区反馈和 issue 活跃度将影响该项目能否持续维护,以及是否有竞品(如 LangChain 内置的工具或商业 APM 方案)在类似方向上快速跟进。
来源:github.com


