NVIDIA Grace Hopper NVLink-C2C 统一内存与 Linux 内核页迁移在 AI 推理工程中的深度实践
从硬件架构、Linux 内核页迁移机制、CUDA统一内存编程模型到AI推理场景实战优化，完整解析 NVIDIA Grace Hopper NVLink-C2C 统一内存技术栈。涵盖页迁移路径、访问计数器、内存建议API、预取策略、CUDA Graph整合、KV Cache零拷贝共享及性能基准测试。
CUDA
eBPF 在 GPU 显存监控与 NVIDIA MIG 动态重平衡中的工程实践
在多租户AI推理集群中，利用eBPF运行时监控GPU显存压力，结合NVIDIA MIG分区动态重平衡，实现显存利用率从40%提升至75% 的工程实践深度指南
CUDA Warp 编程深度实战：从 Bank Conflict 到 Tensor Core 极限优化
深入NVIDIA GPU Warp级并行机制，从Bank Conflict原理到Tensor Core极限优化，涵盖Shared Memory架构、Warp分支发散、FP16矩阵乘实战案例及NSight Compute性能分析
Mamba 状态空间模型：从理论到生产级推理的 CUDA 内核优化实战
深入解析Mamba状态空间模型的核心原理与生产级推理部署：从选择性机制的数学基础，到Scan算法的硬件感知设计，再到CUDA/Triton内核优化实战。涵盖Mamba2的SSD理论、状态缓存优化、投机解码兼容性，以及在百万token长序列场景下的性能基准。
推理引擎的编译优化：从计算图到高效执行
深入解析现代推理引擎的编译优化技术：计算图IR、算子融合策略、常量折叠、静态内存规划、CUDA Graph捕获和调度并行，涵盖TensorRT-LLM、vLLM、llama.cpp等主流引擎的编译实践。
PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo FX Graph 到 TorchInductor Triton CodeGen 的完全工程指南
PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo Python 字节码拦截、FX Graph 中间表示捕获、AOTAutograd 自动微分分解、TorchInductor Triton CodeGen GPU 内核代码生成、算子融合与内存优化、CUDA Graph 捕获、动态形状支持、分布式并行编译、到生产级部署与性能基准测试的完整工程指南。
CUDA 内核优化实战：从内存合并访问到 Warp 级原语与 CuTile 抽象的深度工程指南
本文系统性地讲解 CUDA 内核优化的核心方法论与工程实践，从全局内存合并访问、Shared Memory Bank Conflict 消除、Warp 级原语规约、线程占用率计算，到现代 CuTile 抽象与 Tensor Memory Accelerator 的使用，配合完整的代码示例与 Nsight Compute 性能分析数据。
CUDA Graph 与持久化内核：AI 推理的零启动开销革命
深入解析CUDA Graph与Persistent Kernel技术如何消除AI推理中的GPU启动开销。涵盖动态形状处理、GPU Direct RDMA集成、生产级调度架构设计，以及A100上70%吞吐提升的实测数据。
AI训练数据加载管道：从存储到GPU的零拷贝预处理工程实战
深入解析AI训练数据加载管道的工程优化，涵盖GPUDirect Storage绕过CPU实现存储到GPU显存的零拷贝传输、NVIDIA DALI数据增强、基于io_uring的异步预取流水线架构、Rust零开销抽象在高性能数据加载器中的应用，以及生产环境中常见的I/O瓶颈诊断与调优方法。
CUDA Graph 动态形状捕获与 LLM 推理内存池优化深度实战
深入剖析 CUDA Graph 在 LLM 推理中的录制机制与动态形状挑战，提出 Chunked Prefill + 两阶段内存池 + 参数热更新的生产级优化方案
