掘金· 郑恩赐·· 24 天前精选AI 评分80
多 Agent 系统如何复用 KV 缓存：前缀对齐比缓存开关更重要
多 Agent 系统如何复用 KV 缓存-前缀对齐比缓存开关更重要
AI 导读
文章指出 prefix caching 只优化 prefill 不影响 decode，收益集中在 TTFT，多 agent 共享 system prompt 和工具定义时命中率接近零的根因是前缀没对齐。
借鉴点
能拿走一套 prompt 拼装顺序和 stable_json 固定序列化写法，把多 agent 共享前缀的命中率从接近零拉起来；代价是要改字符串拼装规范，且容量不足时缓存反而互相淘汰。
来源：掘金 · juejin.cn