掘金· 用户36005557900·· 22 天前AI 评分60
Kestrel_VLLM 第 18 篇：投机解码 batch 与 M=1 位级一致，层 0 注意力路径与 CPU 逐字节对齐
Kestrel_VLLM - 18 · 投机解码位级对拍收口：batch 与 M=1 一致，注意力路径与 CPU 逐字节对齐
AI 导读
Kestrel_VLLM 第 18 篇把投机解码对拍从 top-1 下沉到完整 logits 逐字节比较，确认 batch verify 与 M=1 decode 在 pos 33–38 全列 ndiff=0，并纠正此前 token 58 翻转的误读。
来源：掘金 · juejin.cn