投机解码深度实战：从草稿-验证采样到 EAGLE 树状草稿，把 LLM 解码延迟砍一半
从内存墙出发推导投机解码的第一性原理，给出可直接运行的接受-拒绝采样完整实现与残差重采样推导，对比独立草稿模型/Medusa/MTP/EAGLE/n-gram 五条路线，讲透树状草稿与 tree attention mask，最后给出 vLLM、SGLang 生产配置、四种不该开启的场景与真实接受率调优方法论。
投稿
微信公众账号
微信扫一扫加关注
顶部