从GPU内核到Token延迟：eBPF在LLM推理可观测性中的工程实践
如何利用eBPF从内核态穿透到GPU驱动层，构建LLM推理全链路可观测性体系。涵盖CUDA kernel追踪、TTFT/TPOT指标分析、多租户GPU争用分析及实战案例。
CUDA
Rust + CUDA IPC：多 GPU 间零拷贝张量通信工程实战
大规模 AI 模型训练与推理离不开多 GPU 协作。本文深入讲解 CUDA IPC 机制如何实现在同一节点内多 GPU 间零拷贝张量传递，并通过 Rust FFI 绑定给出完整工程实现，覆盖内存共享模型、事件同步、NVLink 拓扑感知、错误处理与 NCCL 集成。
Mamba状态空间模型的硬件感知推理优化：从选择性扫描到并行前缀和
深入分析Mamba架构选择性扫描的GPU硬件感知优化策略，包括并行前缀和、CUDA Kernel Fusion、FlashAttention风格IO-Aware Tiling等全链路优化方案，实测14倍加速。
GPU Direct Storage：GPU 直接存储访问在 AI 推理数据管道中的工程实践
GDS让GPU显存直接与NVMe控制器建立DMA链路。深入剖析nvidia-fs驱动架构、cuFile API异步批量提交、GPU内存注册双缓冲策略，结合PyTorch容器化部署给出性能调优参数矩阵。
Inside FlashAttention-3：面向 Hopper 架构的 IO-Aware 精确注意力机制深度解析
FlashAttention-3 通过深度挖掘 NVIDIA Hopper GPU 的 TMA、异步事务屏障、warp 级矩阵运算等硬件特性，在不牺牲数值精度的前提下将 HBM 访问降低到理论下限的 1/4。本文从算法原理、硬件协同设计、工程实现三个维度揭开 FlashAttention-3 的底层逻辑。
