用另一个 LLM 清理 Claude 5 的 token 垃圾

开发者 zachahn 发布了一款名为 Vomit 的开源工具,能把 Claude 5 在编程等任务中输出的“token 垃圾”(可读性极差的中继文本)通过本地 LLM 实时翻译成正常英文,且全程本地运行、无遥测数据上传。

一句话看懂:开发者 zachahn 发布了一款名为 Vomit 的开源工具,能把 Claude 5 在编程等任务中输出的“token 垃圾”(可读性极差的中继文本)通过本地 LLM 实时翻译成正常英文,且全程本地运行、无遥测数据上传。

事件核心:发生了什么

Vomit 是一个针对 Anthropic Claude 5 输出的轻量级修复工具,项目托管在 GitHub 上(zachahn/vomit),采用 GNU GPLv3 开源协议。它的工作原理是拦截 Claude 在思考或内部中继时生成的大量低质量 token 流,通过管道将其送入用户本地的 LLM(如 Llama.app 或 Ollama),再输出为人类可读的英文。开发者推荐使用 GPT-OSS 20B 模型配合 Llama.app 使用。

工具提供两种运行模式:一是侵入式模式,通过 Claude 的 hooks 机制直接替换输出;二是旁路模式,通过 vomit listvomit tail 命令监控指定会话并实时翻译,不修改运行时文件。开发者说明该工具只在 macOS 上做过测试,速度偏慢,且本地 LLM 只能看到 Claude 试图传达的信息,无法访问实际操作或文件,因此偶尔会出现“幻觉”或完全漏掉原意的情况。

为什么重要

Claude 5 在处理复杂任务(尤其是多步骤编码)时,会产生大量内部推理或“思维链”性质的中间 token,这些输出对普通用户而言几乎是噪音,严重降低了交互可读性。Vomit 的出现,实质上是社区对闭源模型输出透明度的一次自发修补——它不是通过逆向工程破解模型,而是用一个本地 LLM 做“二次翻译”,在保留隐私(不联网)的前提下改善用户体验。

这件事值得注意的点在于:它反映了当前大模型使用中的一个真实痛点——模型能力越强,中间过程越复杂,用户越难读懂模型在干什么。而 Anthropic 等闭源厂商短期内不会开放这些内部状态,社区只能自己造工具来填空。Vomit 的轻量设计(无外部依赖、无遥测)也符合当下对本地优先、数据隐私工具的需求趋势。

对用户/开发者/创作者的影响

对重度使用 Claude 5 的开发者来说,Vomit 能明显降低阅读输出时的认知负担,尤其是在调试或审查 AI 生成的代码时。不过要客观看待它的局限:翻译过程依赖本地算力,速度慢且有信息丢失风险,不建议在严格的生产环境中依赖它做决策。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对开源社区和工具开发者的启示是:围绕闭源模型的“辅助层”工具还有很大空间,类似 Vomit 这种轻量级本地处理方案,未来可以扩展到其他模型或跨模型场景。对普通用户而言,目前它的安装门槛偏高(需要 Go 环境和本地 LLM),更适合有技术背景的用户尝试,普通用户不妨等更成熟的图形化封装版本。

值得关注的后续

目前公开信息显示,这个项目还处于早期和“vibe-coded”阶段,开发者本人也承认只测试过 Mac。后续有几个具体观察点:一是 Claude 的 hooks 机制是否会调整,导致 Vomit 这类工具失效或需要频繁适配;二是本地 LLM(如 Llama.app 生态)的性能提升能否缩小翻译延迟和准确率差距;三是同类工具是否会跟进,形成一套“闭源模型可读化”的社区方案,或引发 Anthropic 在输出格式上的主动改进。

来源:Hacker News (黑客新闻)

celebrityanime
celebrityanime
文章: 19339

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注