#推理框架

vLLM 为什么快？PagedAttention 解决了什么问题？

考察对 vLLM 核心机制的理解：PagedAttention 借虚拟内存思想消除 KV Cache 碎片浪费，配合 continuous batching 把吞吐提升数倍。