MarkTechPost· Asif Razzaq·· 19 天前精选AI 评分78
UC Berkeley 开源 LEANN 向量索引,60M chunk 的 RAG 索引从 201 GB 降到 6 GB
Meet LEANN: An Open-Source Vector Index that Shrinks a 60M-Chunk RAG Index from 201 GB to 6 GB
AI 导读
UC Berkeley Sky Computing Lab 开源了 LEANN 向量索引,它不在磁盘上保存完整嵌入向量,而是在查询时按需重算,仓库基准里 60M chunk 的 Wikipedia 索引从 201 GB 降到 6 GB,论文在 MLSys 2026 获最佳研究论文。
借鉴点
能拿走的是剪枝图加 PQ 表、查询时只重算搜索路径上节点的做法,把 60M chunk 索引从 201 GB 压到 6 GB,可落到本地知识库和端侧 RAG;代价是检索从 0.05 s 涨到 2.48 s,重算仍占约 76% 查询延迟。
来源:MarkTechPost · marktechpost.com