性能优化

eBPF AI 推理服务全链路可观测性工程实战

深入探讨如何利用eBPF构建AI推理服务的全链路可观测性工具栈,覆盖从请求入口到GPU计算完成的完整链路,包含GPU kernel launch追踪、CPU调度延迟分析、内存分配热点检测、网络层追踪等实战案例与代码示例。

Linux内核DMA-BUF显式同步与跨驱动缓冲区共享:从零构建零拷贝GPU计算管线

在现代AI推理管线中,数据搬运的耗时往往超过计算本身。CPU与GPU、GPU与GPU、存储与加速器之间的零拷贝数据共享,是突破性能瓶颈的关键。Linux内核的DMA-BUF子系统正是解决这一问题的核心基础设施,而显式同步机制(explicit fencing)则是保证多设备并发访问正确性的基石。本文将深入DMA-BUF的内部机制,从零实现一个跨驱动的零拷贝GPU计算管线。

Apache Parquet 文件格式深度实战:从 Dremel 记录拆解到 Page Index 谓词下推的工程全链路

从文件物理布局讲起,拆解 Parquet 如何用 Dremel 的 repetition/definition level 无损表达嵌套结构,给出可运行的记录装配与 RLE/Bit-Packing 解码实现,并系统梳理字典编码、BYTE_STREAM_SPLIT 等编码体系与 Row Group / Page / Bloom Filter 三级谓词下推,最后给出生产环境 row group 大小、排序、schema 演进与压缩选型的实战经验。