Hacker News · AI 讨论· byoungyoung·· 10 天前AI 评分34
KVGuard：面向 LLM 服务系统的 KV Cache 内存安全检查器
KVGuard: A KV Cache Safety Checker for LLM Serving Systems
AI 导读
KVGuard 是首个针对 LLM 服务系统 KV Cache 管理的系统性内存安全抽象，可检测 double-free、use-after-free、越界访问等五类基于 PagedAttention 块设计的安全问题。
来源：Hacker News · AI 讨论 · arxiv.org