掘金· 如一Agent·· 23 天前精选AI 评分80
长上下文为何越喂越差：从注意力公式拆解上下文腐烂与应对方案
注意力稀释，上下文变长时模型在公式里丢了什么
AI 导读
作者梳理 Chroma、RULER、Lost in the Middle、NoLiMa 等实验，指出长上下文衰减与任务难度无关、只与长度强相关，标称窗口不等于有效窗口。
借鉴点
能拿走一套上下文治理清单，压缩去噪、子代理隔离、按需检索、关键信息放首尾、约束钉在压缩外，落到软件工厂和知识沉淀两条线；代价是要自建长上下文召回回归测试，且压缩必须区分任务上下文与治理约束。
来源：掘金 · juejin.cn