标签: DeepSeek

[Local LLM] 分享个自己在用的玩具

[Local LLM] 分享个自己在用的玩具

V2EX 用户 mountainl 分享了一次低成本本地大模型硬件搭建实践,利用两块二手 RTX 3060(12GB)和 E5 平台,成功运行通义千问 Qwen3.6-35B-A3B-APEX 模型(128K 上下文,输出约 100 tps),并配合 hermes agent 实现脚本辅助编写。这件事直观展示…