一句话看懂：开发者 Allan Røbo 借鉴 Jev 的单函数调用思路，做了一个基于 token 概率的轻量 LLM 封装，并自行扩展出图像附件字段，让同一套问答逻辑也能跑视觉模型。它把“一句话问一个选项”变成可量化的打分接口，对想快速搭多模态原型的开发者有参考价值。
事件核心：发生了什么
作者受 Jev、OpenJev、SemIf 等可自托管项目启发，尝试用 LLM 的 logprobs（token 对数概率）来做结构化判断。做法不复杂：把问题写成“State + Question + 选项”的提示词，请求时只允许模型生成 1 个 token，并开启 logprobs 和 top_logprobs。这样模型返回的是一个字母及其备选概率，而不是一段啰嗦回答，速度和可解析性都更好。
更关键的是，他不满足于文本，给 Jev 的请求格式加了 attachments 字段，用 base64 JPEG 传入图像。示例程序通过 OpenCV 抓取摄像头画面，向模型提问“画面里有没有人”“室内还是室外”“场景亮度如何”。在本地 RTX 3090 上跑 Gemma 4 12B，三题并行约 1 FPS；通过 OpenAI gpt-6-luna 则约 0.2 FPS。
为什么重要
这套思路把大模型的“概率输出”当成分类器用，绕开了传统视觉模型需要训练、调参和固定标签体系的路径。想改判断条件，只需改提示词里的自然语言描述，不必重新训练。对快速验证场景，这比调用专用 CV 模型更灵活；在边缘设备或本地推理场景下，也能减少对云端 API 的依赖。它的短板同样明显：通用视觉模型的推理成本远高于专用小模型，GPT 端 0.2 FPS 的表现说明，逐题建立独立连接会带来额外开销，KV 缓存和批量请求的设计会直接影响可用性。
对用户/开发者/创作者的影响
对开发者而言，这是一种低成本的多模态原型方式：用兼容 Chat Completions 的 API，加上 logprobs 参数和单 token 限制，就能把视觉问答变成可统计、可聚合的分数。对自托管用户，llama.cpp 等后端如果支持 KV 缓存，共享状态前缀可以省下重复计算。对创作者和产品团队，它适合做内容审核、场景标注、摄像头状态判断等轻量任务，但不适合直接替代工业级视觉系统。目前公开信息显示，这套封装仍是个人实验，未涉及商业化或大规模部署。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 Jev 或同类项目是否会把 attachments 字段纳入正式格式，推动多模态请求标准化；二是本地推理后端能否通过缓存和并行把多题视觉查询推到更高帧率；三是 OpenAI 等闭源 API 的 logprobs 与视觉输入结合后，成本结构是否适合高频调用。这三点决定了它是停留在玩具阶段，还是成为轻量多模态应用的可选方案。
来源：Hacker News
