标签：VLLM

vLLM 推理服务入门：PagedAttention 与连续批处理如何提升吞吐

vLLM 是目前最常用的开源大模型推理引擎之一，凭借 PagedAttention 和连续批处理显著提升了 GPU 利用率和并发吞吐。本文解释这两项核心技术的原理，介绍部署时的关键参数、性能调优思路以及与其他推理方案的选型对比。