从GPU内核到Token延迟：eBPF在LLM推理可观测性中的工程实践
如何利用eBPF从内核态穿透到GPU驱动层，构建LLM推理全链路可观测性体系。涵盖CUDA kernel追踪、TTFT/TPOT指标分析、多租户GPU争用分析及实战案例。
GPU
Mamba状态空间模型的硬件感知推理优化：从选择性扫描到并行前缀和
深入分析Mamba架构选择性扫描的GPU硬件感知优化策略，包括并行前缀和、CUDA Kernel Fusion、FlashAttention风格IO-Aware Tiling等全链路优化方案，实测14倍加速。
机密计算 × GPU AI 推理 —— TEE 环境下的隐私保护机器学习实战
深度解析GPU TEE技术在AI推理场景的实战应用，涵盖NVIDIA Confidential Computing架构、远程证明流程、Kubernetes部署、性能优化策略和攻防实战
LLM 推理系统韧性工程：PD 分离架构下 KV Cache 热迁移与分级降级实战
随着 LLM 推理服务进入大规模生产部署阶段，系统韧性成为比峰值吞吐更关键的工程指标。本文深入剖析 Prefill-Decode 分离架构下的 KV Cache 热迁移、分级降级策略和故障恢复机制，给出可直接应用于生产环境的工程方案和实测数据。
GPU Direct Storage：GPU 直接存储访问在 AI 推理数据管道中的工程实践
GDS让GPU显存直接与NVMe控制器建立DMA链路。深入剖析nvidia-fs驱动架构、cuFile API异步批量提交、GPU内存注册双缓冲策略，结合PyTorch容器化部署给出性能调优参数矩阵。
