边缘智能新范式：TinyML 与边缘 AI 推理引擎的架构设计与工程实践
深入剖析边缘AI推理引擎的完整工程化路径：从TinyML基础概念到微控制器上的模型部署，涵盖INT8/FP16量化压缩、算子级优化、内存约束下的图编译策略、CMSIS-NN与Ethos-U NPU加速推理，并通过CIFAR-10分类器与关键词唤醒实战展示端到端推理流水线
推理引擎
大模型推理引擎核心技术：PagedAttention、Continuous Batching与SGLang的深度剖析
从零深入剖析LLM推理引擎核心技术：记忆分页管理PagedAttention如何消除KV Cache的内存碎片、Continuous Batching如何消除GPU空闲等待、推测解码如何实现推理加速。全面对比vLLM与SGLang两大开源推理框架的架构差异与性能表现，涵盖直觉解释、工程细节到分布式部署最佳实践。
LLM 推理的 KV Cache 三级存储架构：GPU HBM → CPU DRAM → NVMe SSD 的近乎零拷贝实践
深入拆解单节点内跨越GPU HBM、CPU DRAM、NVMe SSD的三级KV Cache存储体系，涵盖CUDA异步传输、GPUDirect Storage直写、分层淘汰策略、以及生产环境中的NUMA拓扑陷阱与水位线振荡等工程细节。
