LEANN 开源向量索引:6000 万块 RAG 索引从 201GB 压到 6GB

UC Berkeley Sky Computing Lab 开源 LEANN 向量索引,思路是查询时重算 embedding,而不是把向量全部存盘。其仓库基准显示,6000 万块 Wikipedia 语料对应的索引从 201GB 降到 6GB,论文获 MLSys 2026 最佳研究论文奖。这意味着在笔记本上为…

一句话看懂:UC Berkeley Sky Computing Lab 开源 LEANN 向量索引,思路是查询时重算 embedding,而不是把向量全部存盘。其仓库基准显示,6000 万块 Wikipedia 语料对应的索引从 201GB 降到 6GB,论文获 MLSys 2026 最佳研究论文奖。这意味着在笔记本上为个人数据建立语义检索和 RAG 更可行了。

事件核心:发生了什么

据 MarkTechPost 2026 年 10 月 27 日报道,LEANN 构建在 FAISS 之上,属于低存储近似最近邻索引。它不保存完整向量,而是保留剪枝后的图和紧凑的乘积量化(PQ)表,查询路径上的节点才即时重算 embedding。按仓库数据,6000 万块的索引为 6GB;论文中的 76GB Wikipedia 场景为 4GB,而同等 HNSW 方案需要 188GB。默认嵌入器为 110M 参数的 Contriever,项目以 MIT 许可发布,可用 uv pip install leann 安装。

为什么重要

向量索引常常比原始数据还大:论文提到 76GB 语料需要 173GB 向量加 15GB HNSW 图,超过原始数据两倍。LEANN 把“索引必须驻留全部向量”的假设拆开,用计算换存储。其代价明确:在 RTX 4090 上,NQ 检索从 HNSW 的 0.05 秒增至 2.48 秒,但生成约需 20 秒,端到端从 20.95 秒升到 23.34 秒,下游准确率同为 25.5%。对 RAG 而言,这相当于用可控的检索延迟换取更低的存储门槛。

对用户/开发者/创作者的影响

仓库展示了个人数据场景:40 万条聊天记录索引从 1.8GB 缩到 64MB,3.8 万条浏览器记录从 130MB 缩到 6.4MB,并提供文档、Apple Mail、Chrome 历史、iMessage 等现成应用,以及供 Claude Code 使用的语义搜索 MCP 服务。对在本地跑 RAG 的开发者,LEANN 降低了内存门槛;但 90% 召回下的检索延迟和仅 GPU 为主的测试条件,意味着实时性要求高的场景仍需谨慎评估。素材没有公布纯 CPU 的延迟数据。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

可关注三点:一是 CPU-only 与消费级显卡上的实际延迟是否可用;二是作者规划的下一步是否把重算扩展到多模态或多语言嵌入;三是 HNSW、DiskANN 等方案是否跟进类似“按需重算”的设计。目前展示的对比均来自论文自报数据,尚不代表长期排名。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 30623

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注