标签: LLM

Eval bug: WIP

Eval bug: WIP

该问题发生在 llama-server 的 per-sequence slot 状态恢复失败后,同一进程内的后续 completion 会持续损坏或返回空结果,重启进程才能恢复正常。优先排查 KV cache 的 slot 恢复/回滚路径,而不是模型或硬件配置。

DS V4 Pro效果没有完全达到预期,不过DeepSeek Harness(dsh)却十分惊艳,草草的列几个印象深刻的点: 1. 快,非常之快 2. dsh没有选择GUI、也没有选择TUI,或者CLI,而是走了一条其他Harness几乎没走过的路——Web UI,采用BS架构,这个设计非常的巧妙,把客户端繁重的工作省下来做优先级更高的事情,后期如果要做客户端,直接Electron包一下就是客户端了 3. 插件系统非常nice,万物皆…

DS V4 Pro效果没有完全达到预期,不过DeepSeek Harness(dsh)却十分惊艳,草草的列几个印象深刻的点: 1. 快,非常之快 2. dsh没有选择GUI、也没有选择TUI,或者CLI,而是走了一条其他Harness几乎没走过的路——Web UI,采用BS架构,这个设计非常的巧妙,把客户端繁重的工作省下来做优先级更高的事情,后期如果要做客户端,直接Electron包一下就是客户端了 3. 插件系统非常nice,万物皆…

DeepSeek V4 Pro 的模型表现未达部分用户预期,但同步亮相的 DeepSeek Harness(dsh)工具链凭借 Web UI 架构、插件系统和细粒度可观测性受到开发者关注,GitHub 星标数被认为有望快速突破 10 万。