CUDA Graph 捕获与重放：AI 推理 Kernel Launch 优化的深度实战
从kernel launch瓶颈分析到CUDA Graph的捕获、实例化、重放机制，结合TensorRT与vLLM的工程实践，剖析动态形状处理、内存池管理与性能调优的完整方案。
CUDA
GPU 推理进入「后摩尔」时代：NVIDIA Blackwell 架构全栈深度实战
从硬件微架构出发，深入 FP4/FP6 Tensor Core、第五代 NVLink Switch 和 MIG 增强，结合生产环境部署实测数据，给出 Blackwell 集群的端到端调优方法论。
FlashAttention Tiling 策略与在线 Softmax：从数学推导到 IO-Aware 工程实战
深入分析FlashAttention的Tiling策略与在线Softmax数学原理：从增量归约公式推导，到Forward/Backward Tiling设计、Tensor Core WGMMA编程适配、三级异步流水线，延伸至Flash-Decoding与Flash-Decoding 推理优化，并给出A100/H100实测性能对比与工程落地要点。
eBPF 在 GPU 显存监控与 NVIDIA MIG 动态重平衡中的工程实践
在多租户AI推理集群中，利用eBPF运行时监控GPU显存压力，结合NVIDIA MIG分区动态重平衡，实现显存利用率从40%提升至75% 的工程实践深度指南
GPU 时间片调度与多租户推理隔离工程实践
深入剖析GPU多租户共享技术栈：从MPS轻量级并发到MIG硬件分区，从CUDA时间片抢占到推理引擎级Tag-Based公平调度。覆盖NVIDIA H100/Blackwell架构、vLLM、TensorRT-LLM等生产级架构实战。
CUDA Graph 与持久化内核：AI 推理的零启动开销革命
深入解析CUDA Graph与Persistent Kernel技术如何消除AI推理中的GPU启动开销。涵盖动态形状处理、GPU Direct RDMA集成、生产级调度架构设计，以及A100上70%吞吐提升的实测数据。
异构计算碎片化困局：GPU 池化与时分复用统一调度架构实战
深入剖析GPU碎片化的四种典型症状（尾部碎片、时空错配、规格错配、抢占盲区），提供基于CUDA MPS显存硬限额 应用层Checkpoint/Resume的池化方案，包含Go实现的碎片调度器和生产避坑指南。
Mamba状态空间模型的硬件感知推理优化：从选择性扫描到并行前缀和
深入分析Mamba架构选择性扫描的GPU硬件感知优化策略，包括并行前缀和、CUDA Kernel Fusion、FlashAttention风格IO-Aware Tiling等全链路优化方案，实测14倍加速。
FlashAttention V3 实战：Hopper 架构下的 Paged KV Cache 协同优化
深入剖析 FlashAttention V3 在 Hopper 架构下通过 TMA 和 Warp Specialization 实现 Attention 计算极致优化，以及 Paged KV Cache 在 LLM 推理服务中的协同工程实践。含 CUDA 代码示例与实测性能对比。
GPUDirect RDMA：AI 推理集群零拷贝网络传输的工程实践
深入解析 GPUDirect RDMA 架构原理与 AI 推理集群工程实践，涵盖内核驱动实现、CUDA API 集成、NCCL RDMA 通道建立、性能调优与生产级容错设计
