跳到正文
  1. Apple Machine Learning58

    Apple 提出摊销式 MIPS 方法,用小型神经网络加速 RAG 检索

    Apple 在 ICML 2026 论文中提出摊销式 MIPS 方法,针对固定键库离线训练小型神经网络,把查询路由到最佳匹配所在簇,从而加速 RAG 检索。

    借鉴点

    可借鉴用回归训练小网络替代质心路由的思路,SupportNet 做簇路由、KeyNet 改写查询接现有 IVF 索引,前提是查询分布稳定且需离线预计算真值样本。

  1. 掘金71

    RAGFlow 与华东师大论文提出知识编译,断言-证据对让查询 token 降 91%

    RAGFlow 团队(InfiniFlow)联合华东师范大学在 arXiv 发布论文《Context as Infrastructure》,提出在摄入期把语料加工成带类型工件的知识编译管线,查询时消费工件而非原始文本。

    借鉴点

    能拿走断言-证据对替换、零命中回退梯子和有限视野盈亏公式,落到知识沉淀与本地检索管线;代价是延迟约 3 倍、需另配决策门,且 91% 数字来自 N=200 单次运行。

  1. 掘金71

    华南理工 G³RAG 用 cosθ·sinθ 几何边权替代实体知识图谱做多跳 RAG

    华南理工的 G³RAG 提出用文档嵌入夹角的 cosθ·sinθ 作为边权构图,同时奖励相关性和互补性,绕开用 LLM 抽实体建知识图谱的 token 开销,构图成本为零。

    借鉴点

    已有嵌入索引的团队可加一层 cosθ·sinθ 边权图加单步扩散补多跳,省掉 LLM 建图 token,代价是图质量绑死嵌入质量且只覆盖单步跳转。

  1. MarkTechPost78

    UC Berkeley 开源 LEANN 向量索引,60M chunk 的 RAG 索引从 201 GB 降到 6 GB

    UC Berkeley Sky Computing Lab 开源了 LEANN 向量索引,它不在磁盘上保存完整嵌入向量,而是在查询时按需重算,仓库基准里 60M chunk 的 Wikipedia 索引从 201 GB 降到 6 GB,论文在 MLSys 2026 获最佳研究论文。

    借鉴点

    能拿走的是剪枝图加 PQ 表、查询时只重算搜索路径上节点的做法,把 60M chunk 索引从 201 GB 压到 6 GB,可落到本地知识库和端侧 RAG;代价是检索从 0.05 s 涨到 2.48 s,重算仍占约 76% 查询延迟。

  1. 掘金71

    爱立信 Code Comprehensor 用分层文档与跨模态检索让 500 万行代码可问答

    爱立信研究院提出 Code Comprehensor,用 LLM 离线沿调用图把仓库文档化再压成语义检索索引,在线检索约 50 毫秒、完整回答一个问题 3-5 秒。

    借鉴点

    可抄的是后序分块加滚动摘要驯服超大调用树、一个代码单元配多文本视图做多正样本监督、合成问题加术语锚点约束;代价是 120 万行要 48 小时和 3200 美元文档化,且只在 C/C++ 上验证过。

已经到底了