Reddit r/LocalLLaMA论文

DLoop：循环式投机解码方法

该论文提出 DLoop，一种针对大语言模型自回归生成的循环式投机解码（Speculative Decoding）新架构。研究指出，随着轻量级草稿模型能力增强，目标模型常一次性接受所有草稿 token，导致后续不必要的验证前向传播。DLoop 通过自适应调整草稿长度并允许在草稿阶段继续生成而非强制验证，减少了冗余计算，从而提升推理效率。

阅读原文