跳到正文
MarkTechPost· Asif Razzaq·· 19 天前精选AI 评分78

UC Berkeley 开源 LEANN 向量索引,60M chunk 的 RAG 索引从 201 GB 降到 6 GB

Meet LEANN: An Open-Source Vector Index that Shrinks a 60M-Chunk RAG Index from 201 GB to 6 GB

AI 导读

UC Berkeley Sky Computing Lab 开源了 LEANN 向量索引,它不在磁盘上保存完整嵌入向量,而是在查询时按需重算,仓库基准里 60M chunk 的 Wikipedia 索引从 201 GB 降到 6 GB,论文在 MLSys 2026 获最佳研究论文。

借鉴点

能拿走的是剪枝图加 PQ 表、查询时只重算搜索路径上节点的做法,把 60M chunk 索引从 201 GB 压到 6 GB,可落到本地知识库和端侧 RAG;代价是检索从 0.05 s 涨到 2.48 s,重算仍占约 76% 查询延迟。

来源:MarkTechPost · marktechpost.com