掘金· 愤怒的代码·2026-10-29 08:11· 18 天前AI 评分22KV Cache 里为什么没有 Q?AI 导读文章解释 LLM 推理的 KV Cache 只存 K 和 V 而不存 Q:decode 每步只为新 token 计算 Q,用完即弃,生命周期只有一步;K/V 则会被后续每个新 token 反复读取,第 j 个位置被读 n−j 次。来源:掘金 · juejin.cn推理能力部署工程教程实践#教程/实践#推理#部署/工程查看事件全部后续