大语言模型推理优化技术全景：从KV Cache到分布式并行实战
深入解析大语言模型推理优化技术体系：KV Cache与PagedAttention显存压缩、GPTQ/AWQ/SmoothQuant量化方案对比、投机采样与Medusa无损加速、张量/流水线/序列并行分布式策略，附选型建议与未来趋势
AWQ
大语言模型推理优化实战：从 KV Cache 推测解码到生产级部署
深入剖析大语言模型推理优化核心技术，涵盖KV Cache机制、PagedAttention内存管理、推测解码算法原理、模型量化策略（GPTQ/AWQ/FP8）及vLLM生产部署实践
模型量化实战：从 AWQ/GPTQ 到 NVIDIA FP8 推理的工程部署与性能调优
深度剖析大语言模型推理中的量化技术路线，从 GPTQ、AWQ、SmoothQuant 到 NVIDIA 硬件级 FP8 推理，结合 vLLM 与 TensorRT-LLM 实战部署，给出一套完整的工程方案。
模型量化与稀疏化的深度工程实践：从 GPTQ 到 SparseGPT 的演进之路
当 Llama-3 以 405B 参数的体量横扫 MMLU 榜单时，推理吞吐依然是制约业务落地的最大瓶颈。本文从工程实践角度，系统梳理从 GPTQ 到 SparseGPT 的技术路线、实现细节与落地取舍
AI 模型量化技术深度实战：从 GPTQ 到 BitNet 的推理降本工程
2026年大模型推理成本已成为AI商业化落地的核心瓶颈。本文系统梳理从训练后量化（PTQ）到量化感知训练（QAT），再到1.58-bit BitNet的技术演进路径，结合工程实践剖析GPTQ、AWQ、SmoothQuant、GGUF等主流方案的原理差异与适用场景。
LLM 后训练量化深度实战：从 GPTQ/AWQ 到 FP8 与 KV Cache 量化的显存-带宽极限工程
从 Roofline 模型定量证明 decode 阶段 Tensor Core 利用率仅 0.33% 的内存墙困境出发，系统拆解 LLM 后训练量化的完整工程栈：group-wise 量化粒度、SmoothQuant 的 outlier 迁移、GPTQ 的 Hessian 误差补偿、AWQ 的激活感知缩放、FP8 延迟缩放与 KV Cache 分级量化，并给出逐层重建误差定位法与生产选型决策树。
大模型量化与推理系统架构演进：从GPTQ精确校准到PagedAttention内存管理的全链路优化
大模型量化与推理系统架构演进：从GPTQ精确校准到PagedAttention内存管理的全链路优化，全面解析LLM推理加速的核心技术与工程实现。
