大模型推理引擎深度实战：从 KV Cache 管理到推测解码 — vLLM / TensorRT-LLM / SGLang 全栈架构剖析
深入剖析三大主流大模型推理引擎 vLLM、TensorRT-LLM 和 SGLang 的全栈架构设计，涵盖 PagedAttention 内存管理、Continuous Batching、推测解码、FP8 量化等核心生产级优化技术，并提供选型决策指南。
TensorRT-LLM
LLM推理优化实战：从KV Cache到Speculative Decoding的全链路加速
深入解析大语言模型推理优化的全链路技术栈
大语言模型推理部署实战：从vLLM到TensorRT-LLM
深入拆解LLM推理部署全链路技术栈，涵盖KV Cache管理、Continuous Batching、量化技术、投机解码等核心优化手法，对比vLLM、TensorRT-LLM、TGI、llama.cpp、SGLang等主流框架，包含生产环境部署架构设计与性能调优实战。
大语言模型推理部署实战：从vLLM到SGLang的生产级优化之路
深入剖析大语言模型推理部署核心技术：PagedAttention原理、Continuous Batching机制、KV Cache优化策略，对比vLLM/SGLang/TGI/TensorRT-LLM四大框架，详解生产环境硬件选型、量化调优与最佳实践
大语言模型推理部署实战：从 vLLM 到量化加速与 KV Cache 优化
系统性解析LLM推理部署核心技术栈，涵盖vLLM的PagedAttention与Continuous Batching、TensorRT-LLM部署、GPTQ/AWQ/GGUF量化加速、KV Cache优化策略、投机解码及生产环境最佳实践
大模型推理部署：从vLLM到TensorRT-LLM的高性能服务化
深度解析大模型推理部署的核心技术，涵盖显存优化、推理引擎对比和性能指标体系
NVIDIA NVFP4 与 Micro-Scaling：Blackwell 推理 4-bit 浮点精度的深度工程实战
系统拆解 NVIDIA Blackwell 第五代 Tensor Core 原生支持的 NVFP4（E2M1 4-bit 浮点）与 Micro-Scaling 两级缩放格式：从位级定义、缩放数学、离群点校准（旋转变换/重要性矩阵）、Scaled GEMM 内核实现，到混合精度分层策略与生产部署陷阱清单，给出在显存与带宽受限的推理集群上把单卡吞吐推向极限的工程方法。
模型量化实战：从 AWQ/GPTQ 到 NVIDIA FP8 推理的工程部署与性能调优
深度剖析大语言模型推理中的量化技术路线，从 GPTQ、AWQ、SmoothQuant 到 NVIDIA 硬件级 FP8 推理，结合 vLLM 与 TensorRT-LLM 实战部署，给出一套完整的工程方案。
NVIDIA TensorRT-LLM 深度工程实战：从图编译到千卡集群的 LLM 推理系统设计
深入剖析 NVIDIA TensorRT-LLM 的架构设计与生产实践，从底层图编译优化到多机多机推理的完整方案，涵盖算子融合、CUDA Graph 捕获、Paged KV Cache、FP8 量化及 Disaggregated Serving 等核心技术，附完整代码示例。
