机密计算 × GPU AI 推理 —— TEE 环境下的隐私保护机器学习实战
深度解析GPU TEE技术在AI推理场景的实战应用，涵盖NVIDIA Confidential Computing架构、远程证明流程、Kubernetes部署、性能优化策略和攻防实战
GPU
AI 推理引擎的批处理与内存管理：从 Continuous Batching 到 PagedAttention 的工程实践
本文深入剖析现代推理引擎解决吞吐-延迟-显存矛盾的两大核心技术：Continuous Batching（迭代级批处理）和 PagedAttention（分页KV Cache）。从操作系统内存管理视角，详解其CUDA实现内核、Prefix Caching机制、分离式架构演进，并提供生产环境调优与避坑指南。
CXL 2.0 内存池化在 AI 推理中的工程实践：冷热分层、动态容量扩展与 vLLM 集成
深入解析 CXL 2.0 内存池化协议栈、Linux 内核 CXL 子系统驱动架构，以及与 vLLM/SGLang 推理框架集成的 KV Cache 冷热三级分层方案。探讨 PagingAttention 与 CXL swap space 扩展的实战工程路径，附实测性能对比与调优建议。
Linux DRM/KMS 显示管理子系统深度实战：从 KMS 原子模式设置到 GPU 渲染管线的全链路架构
深度解析Linux DRM/KMS显示管理子系统：从CRTC/Encoder/Connector/Plane核心硬件抽象模型出发，详解Atomic Modesetting事务性提交机制、VBlank与Page Flip帧同步、DMA-BUF零拷贝共享、GEM显存管理、三大GPU驱动架构(amdgpu/i915/nouveau)、GPU重置恢复、与Xorg/Wayland合成器的协作，以及完整的用户态libdrm编程实战。
LLM 推理引擎架构演进：PagedAttention、Continuous Batching 与 vLLM/SGLang 深度工程
深度解析现代 LLM 推理引擎 PagedAttention 和 Continuous Batching 两大核心技术，结合 vLLM 与 SGLang 工程案例，完整拆解 KV Cache 内存管理、Iteration-Level 调度、RadixAttention 缓存复用的底层原理与生产最佳实践。
LLM推理PD分离架构深度工程实践：从Prefill-Decode异构到分布式KV Cache传输
深入剖析LLM推理PD分离架构的工程实践：从Prefill-Decode异构到分布式KV Cache传输，涵盖DistServe、Mooncake、NVIDIA Dynamo等系统的设计原理与传输协议优化。
Mojo：AI 时代的系统编程语言——从 MLIR 编译器架构到高性能 AI 编程实战
深入探索 Mojo 语言如何通过 MLIR 编译器架构将 Python 的易用性与 C++ 的性能合二为一，涵盖多层级中间表示、编译期元编程、所有权系统、SIMD 自动向量化、AI 硬件加速统一编程模型，以及 FlashAttention 2 实战实现。
从零编写 GPU 驱动：Asahi Linux AGX 架构与 Apple M 系列图形栈逆向工程
Asahi Linux从零开始为Apple M系列芯片编写GPU驱动的工程实践，涵盖逆向工程方法论、Rust驱动架构、统一地址空间管理、命令缓冲区调度等深度内容
AI 推理服务生产化实战：从 Jupyter Notebook 到高可用推理集群
从 Jupyter Notebook 到生产级推理平台的完整工程路线图：覆盖多模型共享推理引擎、Continuous Batching 调优、基于排队论的自适应扩缩容、GPU 显存碎片整理与 KV Cache 管理、模型热更新与灰度发布、三级缓存架构与成本优化策略。
FlashAttention V3 实战：Hopper 架构下的 Paged KV Cache 协同优化
深入剖析 FlashAttention V3 在 Hopper 架构下通过 TMA 和 Warp Specialization 实现 Attention 计算极致优化，以及 Paged KV Cache 在 LLM 推理服务中的协同工程实践。含 CUDA 代码示例与实测性能对比。
