标签: API

我用手上这台笔记本实测了本地 LLM

我用手上这台笔记本实测了本地 LLM

一位开发者用自己的 2021 款 M1 Pro 16GB 笔记本实测了五款主流开源小模型,发现这一代模型确实比一年前聪明不少,但“先思考后回答”的推理机制让本地运行慢到需要一两个小时,算力门槛比网上讨论的残酷得多。