突破三值 LLM 的 1.58-bit 极限

突破三值 LLM 的 1.58-bit 极限

Hacker News 上围绕三值大模型(ternary LLM)的讨论指出,1.58-bit 量化的效率优势被高估了——存储位数低不等于每个参数真正保留了等量的有效信息,这直接关系到三值模型能否撑起下一代定制 AI 芯片。