Linux Kernel KSM：多租户 AI 推理集群的 KV Cache 内存去重与 NUMA 调优深度工程实践
深入分析 Linux KSM 内核实现机制与数据结构，结合多租户 AI 推理场景下的 KV Cache 共享需求，提供完整的 KSM 生产调优方案：双树扫描算法、NUMA-aware 配置、容器化部署、安全侧信道考量。
KV-Cache
Linux Kernel Writeback 子系统——AI 推理持久化 KV Store 的 I/O 吞吐工程实战
深入解析 Linux 内核 writeback 子系统在 AI 推理 KV Cache 持久化场景中的 I/O 瓶颈与实战调优策略，涵盖脏页阈值、BDI 回写配额、flusher thread 隔离、cgroup v2 I/O 限流及生产案例。
KV Cache 量化与压缩工程实战：从 FP16 到 FP8/INT8/INT4，精度、速度、显存的黄金三角
深入解析 LLM 推理系统中 KV Cache 的量化与压缩工程实战，从 FP16 到 FP8/INT8/INT4 的精度-显存-速度权衡，涵盖 Per-token 量化、GQA 压缩、LazyKV 淘汰、Prefix Sharing、Delta 压缩等前沿技术，附 SGLang 生产级配置与实测数据。
FlashAttention V3 实战：Hopper 架构下的 Paged KV Cache 协同优化
深入剖析 FlashAttention V3 在 Hopper 架构下通过 TMA 和 Warp Specialization 实现 Attention 计算极致优化，以及 Paged KV Cache 在 LLM 推理服务中的协同工程实践。含 CUDA 代码示例与实测性能对比。
LLM 推理系统韧性工程：PD 分离架构下 KV Cache 热迁移与分级降级实战
随着 LLM 推理服务进入大规模生产部署阶段，系统韧性成为比峰值吞吐更关键的工程指标。本文深入剖析 Prefill-Decode 分离架构下的 KV Cache 热迁移、分级降级策略和故障恢复机制，给出可直接应用于生产环境的工程方案和实测数据。
GPT-5时代大模型推理调度系统深度实战：连续批处理、分块预填充与抢占重调度的全链路工程
随着GPT-5、Claude 4.5等超大上下文模型的部署，推理服务调度层成为性能瓶颈的核心。本文从vLLM v0.6+与SGLang 0.4的调度器源码出发，深度拆解Continuous Batching、Chunked Prefill、Preemption三大核心机制的实现细节，给出完整的调度循环Rust伪代码和实测性能基准。
解锁长上下文：大语言模型百万Token级推理的工程实践与优化全景
从生产级部署的深度视角，拆解百万Token级长上下文推理的关键技术栈：位置编码外推（PI/NTK/YaRN）、KV Cache显存管理与FP8量化、Flash Attention与Ring Attention分布式计算、稀疏注意力与Mamba替代方案、vLLM调度优化与并行策略选择。包含完整代码示例与2025-2026最新进展。
KV Cache 共享与复用：从 Prefix Caching 到多租户KV重用的生产实践
深入剖析KV Cache共享与复用的技术体系，从vLLM的Automatic Prefix Caching实现原理，到多轮对话上下文管理策略，再到生产级多租户KV Cache复用架构设计。
打破自回归瓶颈：Speculative Decoding 推测解码的系统工程与生产优化实战
Speculative Decoding 通过小模型草稿+大模型验证的无损加速范式，将 LLM 推理延迟降低2-4×。本文深入拆解核心算法、调度策略与 KV Cache 管理，分析 Medusa、Eagle 与自回归草稿模型的工程取舍与生产部署最佳实践。
从SGLang RadixAttention到KV Cache复用革命：LLM推理服务的前缀感知调度与缓存池化架构
深度解析SGLang RadixAttention如何通过Radix Tree数据结构实现跨请求的KV Cache前缀复用，涵盖底层实现、调度策略、分布式部署及LMCache/Mooncake等下一代架构
