celebrityanime

celebrityanime

issue: ollama does not work after update

issue: ollama does not work after update

用户在 Docker 中运行 Open WebUI v0.9.6,Ollama 版本从 0.23.0-rc0(前一天正常工作)升级后,UI 一直显示“loading”,无法完成任何聊天请求。用户同时提到 Ollama 0.24.0 也存在类似行为(尝试 RAG embedding 模型时导致 wor

[Local LLM] 分享个自己在用的玩具

[Local LLM] 分享个自己在用的玩具

V2EX 用户 mountainl 分享了一次低成本本地大模型硬件搭建实践,利用两块二手 RTX 3060(12GB)和 E5 平台,成功运行通义千问 Qwen3.6-35B-A3B-APEX 模型(128K 上下文,输出约 100 tps),并配合 hermes agent 实现脚本辅助编写。这件事直观展示…