eBPF 在 GPU 显存监控与 NVIDIA MIG 动态重平衡中的工程实践
在多租户AI推理集群中，利用eBPF运行时监控GPU显存压力，结合NVIDIA MIG分区动态重平衡，实现显存利用率从40%提升至75% 的工程实践深度指南
GPU
GPU 时间片调度与多租户推理隔离工程实践
深入剖析GPU多租户共享技术栈：从MPS轻量级并发到MIG硬件分区，从CUDA时间片抢占到推理引擎级Tag-Based公平调度。覆盖NVIDIA H100/Blackwell架构、vLLM、TensorRT-LLM等生产级架构实战。
CUDA Graph 与持久化内核：AI 推理的零启动开销革命
深入解析CUDA Graph与Persistent Kernel技术如何消除AI推理中的GPU启动开销。涵盖动态形状处理、GPU Direct RDMA集成、生产级调度架构设计，以及A100上70%吞吐提升的实测数据。
CUDA Graph 捕获与重放：AI 推理 Kernel Launch 优化的深度实战
从kernel launch瓶颈分析到CUDA Graph的捕获、实例化、重放机制，结合TensorRT与vLLM的工程实践，剖析动态形状处理、内存池管理与性能调优的完整方案。
AI 推理中的 GPU 显存压力与 OOM 工程缓解策略：从 PagedAttention 到 KV Cache 压缩、Offloading 与请求准入控制
深入分析 AI 推理服务中 GPU 显存 OOM 的根因与工程缓解策略，涵盖 PagedAttention 分页管理、FP8 KV Cache 量化、CPU Offloading 交换、自适应请求准入控制以及生产级分级降级方案，附完整代码示例与配置基准。
用 eBPF 构建分布式 AI 训练集群的实时可观测性平台
本文深入讲解如何利用 eBPF 在操作系统内核层面对分布式 AI 训练任务做零侵入式实时观测，覆盖 GPU 计算间隙、NCCL 通信模式、PyTorch DataLoader 延迟与 GPUDirect Storage 带宽瓶颈四大维度
ONNX Runtime 推理引擎深度工程实战：从图优化、算子融合到执行提供器与内存规划的全链路解析
沿 ONNX Runtime 的真实执行链路拆解推理引擎内核：Session 初始化时的 Graph Transformer 图改写与三级优化、算子融合收益的真实来源、执行提供器如何做图分区以及跨 EP 拷贝的代价、静态内存规划如何用生命周期区间复用显存、IOBinding 零拷贝的适用边界，并给出生产落地清单与常见故障模式。
Rust × CUDA Driver API 零拷贝 FFI 实战：从 Pinned Memory 到 IPC 跨进程 GPU 共享
深度解析 Rust 与 CUDA Driver API 的零拷贝 FFI 互操作，覆盖 bindgen 绑定、Pinned Memory 分配、Async Stream 回调桥接、CUDA IPC 跨进程 GPU 内存共享，附带完整代码示例与性能基准对比。
Linux 内核 DMA-BUF 同步机制深度实战：从 dma-fence 到多驱动零拷贝流媒体管线
深度解析 Linux 内核 dma-fence 同步体系：从三大核心抽象（dma-fence、sync_file、dma-resv）的实现原理，到 Camera→GPU→Display 零拷贝 pipeline 的完整实战方案。涵盖显式同步 API、自定义 fence 驱动编写、ftrace 调试及内核 6.x 新特性。
Linux DRM 子系统深度实战：从 KMS Plane 到 GPU 调度与硬件加速合成
深入解析 Linux DRM 子系统的 KMS 四元组模型、Atomic 模式设置、Vblank 同步、GPU 调度器、Overlay Plane 硬件合成等核心机制，附带内核源码级实战与性能基准对比。
