Rust 实现 LLM 推理引擎深度工程实战：从 Flash Attention 内核到 Continuous Batching
深入拆解如何用 Rust 从零构建 LLM 推理引擎：Flash Attention V2 内核的 SIMD 与 Online Softmax 分块优化、PagedKVCache 的 Copy-on-Write 内存管理、连续批处理调度器的迭代级调度策略。
GPU
Linux内核DMA-BUF显式同步与跨驱动缓冲区共享：从零构建零拷贝GPU计算管线
在现代AI推理管线中，数据搬运的耗时往往超过计算本身。CPU与GPU、GPU与GPU、存储与加速器之间的零拷贝数据共享，是突破性能瓶颈的关键。Linux内核的DMA-BUF子系统正是解决这一问题的核心基础设施，而显式同步机制（explicit fencing）则是保证多设备并发访问正确性的基石。本文将深入DMA-BUF的内部机制，从零实现一个跨驱动的零拷贝GPU计算管线。
Apache Arrow 列存内存格式深度工程：零拷贝数据交换的事实标准
深入剖析 Apache Arrow 列式内存格式的物理布局、IPC 零拷贝协议、CUDA Buffer GPU 互操作、字典编码机制，并提供 Rust 实战代码示例展示跨语言数据共享的最佳实践。
LLM推理PD分离架构深度工程实践：从Prefill-Decode异构到分布式KV Cache传输
深入剖析LLM推理PD分离架构的工程实践：从Prefill-Decode异构到分布式KV Cache传输，涵盖DistServe、Mooncake、NVIDIA Dynamo等系统的设计原理与传输协议优化。
unchanged
深入剖析 Transformer 推理中 KV Cache 的内存管理机制，从 vLLM 的 PagedAttention 到推测解码的显存优化策略，结合生产级代码实战，揭示如何在不牺牲吞吐的前提下将显存占用压缩到极致。
Mojo：AI 时代的系统编程语言——从 MLIR 编译器架构到高性能 AI 编程实战
深入探索 Mojo 语言如何通过 MLIR 编译器架构将 Python 的易用性与 C++ 的性能合二为一，涵盖多层级中间表示、编译期元编程、所有权系统、SIMD 自动向量化、AI 硬件加速统一编程模型，以及 FlashAttention 2 实战实现。
