标签：投机解码

投机解码：在不损失质量的前提下加速大模型输出

投机解码让一个小而快的“草稿模型”先猜测后续多个 Token，再由大模型一次性验证，在保证输出分布不变的前提下显著提升生成速度。本文解释其原理、常见变体、适用条件和部署时需要权衡的因素。