掘金· 用户别睡觉·· 17 天前AI 评分46
中文 PDF RAG 接 Redis 缓存与 RAGAS 实测:缓存命中仅提速 27.1%,重排占 99.8% 耗时
自己搭的中文 PDF RAG 接了 Redis 缓存、跑了 RAGAS,以为能写“提速多少、准确率多少”,结果两个都没按预期来。
AI 导读
大二学生的 tiered-rag-service 项目实测:Redis 缓存命中后总耗时从 4623 ms 降至 3369 ms,仅快 27.1%,因为剩余 3361 ms 全是检索与重排,占 99.8%。RAGAS 评测中,纯向量 top-3 忠实度 0.833、答案相关性 0.961,混合检索加重排后忠实度升至 1.00,但 CPU 环境下重排让检索耗时放大约 220 倍。
来源:掘金 · juejin.cn