vLLM 推理服务性能剖析方法论：吞吐量、延迟与显存利用率的权衡

这篇教程讲怎么量化衡量和优化 vLLM 推理服务，把吞吐量、延迟和显存利用率之间的权衡拆成一套可执行的方法。延迟被拆成 TTFT 和 TPOT，大 batch 换吞吐但伤延迟，显存留够余量才能避免 OOM。