跳到正文
掘金· lucas_AI·· 18 天前AI 评分58

论文解读:金融文档 QA 批量 RAG 的 token 预算该按收益除以成本分配

预算只够升级 10% 的查询,该升级谁?金融文档 QA 的Token分配课

AI 导读

一篇论文把批量 RAG 的检索升级做成共享 token 预算下的资源分配题,在 150 道 FinanceBench 题上按收益除以每 token 成本排序,比按收益排序多出 7 个升级机会、质量高 0.034、总 token 省 46.6%。

来源:掘金 · juejin.cn