大语言模型推理部署优化:从KV Cache到张量并行的工程实践 深入探讨LLM推理部署中的核心优化技术,包括KV Cache管理、张量并行、量化压缩和批处理策略 推理部署 2026年10月13日 0 点赞 0 评论 52 浏览
从第一性原理推导 Flash Attention:IO 复杂度、Tiling 策略与在线 Softmax 的数学工程 从第一性原理出发,深入推导 Flash Attention 的核心数学变换,分析 IO 复杂度下界,解析在线 Softmax 的修正引理,讨论 Tiling 策略、SRAM 分区与工程落地中的关键细节。覆盖 Flash Attention 1/2/3 的演进与不同硬件的调优参数。 算法与数据结构 2026年10月07日 0 点赞 0 评论 80 浏览
LLM 推理加速:投机解码 (Speculative Decoding) 工程实践深度指南 LLM推理优化领域最实用的投机解码技术深度指南:从数学原理到工程实现,涵盖Draft模型选择、KV Cache管理、温度采样处理、自适应k值策略,以及Medusa/EAGLE/Lookahead等前沿变体详解,附性能基准与vLLM/SGLang/TGI部署实践。 推理部署 2026年09月30日 0 点赞 0 评论 131 浏览