LLM 推理引擎架构演进：PagedAttention、Continuous Batching 与 vLLM/SGLang 深度工程
深度解析现代 LLM 推理引擎 PagedAttention 和 Continuous Batching 两大核心技术，结合 vLLM 与 SGLang 工程案例，完整拆解 KV Cache 内存管理、Iteration-Level 调度、RadixAttention 缓存复用的底层原理与生产最佳实践。
LLM
eBPF 加速 LLM 推理调度：从内核级可观测到动态 Batch 决策的全栈实践
探索如何利用 eBPF 实现 LLM 推理服务的全栈可观测性与动态调度优化，涵盖 syscall 层、uprobe、kprobe 三层探针设计，以及基于实时指标的 Adaptive Batch Size 决策器，实现 P99 TTFT 降低 77% 的生产效果。
构建生产级AI Agent系统：从设计到部署全链路实战
深度剖析构建生产级AI Agent系统的全链路实战经验，涵盖规划引擎、工具生态、记忆系统、可观测性安全防线设计与部署运维最佳实践
2026年LLM推理优化突破：推测解码、混合专家与稀疏注意力的协同演进
深入解读2026年LLM推理优化的三大技术方向：推测解码、稀疏注意力与MoE协同，以及如何推动端侧推理普及。
AI 推理引擎的批处理与内存管理：从 Continuous Batching 到 PagedAttention 的工程实践
本文深入剖析现代推理引擎解决吞吐-延迟-显存矛盾的两大核心技术：Continuous Batching（迭代级批处理）和 PagedAttention（分页KV Cache）。从操作系统内存管理视角，详解其CUDA实现内核、Prefix Caching机制、分离式架构演进，并提供生产环境调优与避坑指南。
AI推理引擎中的KV-Cache内存管理：从零设计Buddy-Slab混合分配器
深入分析LLM推理引擎中KV-Cache的内存访问模式，从零实现一个Buddy-Slab混合分配器。解决通用分配器在高并发KV-Cache分配场景下的锁竞争、页表碎片和NUMA不友好问题，实测性能优于malloc 13倍。
RoPE 旋转位置编码深度工程实战：从复数旋转不变性、NTK/YaRN 长上下文外推到生产级上下文扩展
拆解 RoPE 旋转位置编码的数学本质（复数旋转与相对位置恒等式）与工程实现（rotate_half、fp32 相位精度、cache 复用），分析长度外推崩塌的真实机理（低频欠训练 + 高频 OOD），对比 PI / NTK-aware / YaRN / LongRoPE 四类修补方案，给出可运行的频率重映射代码、注意力温度补偿写法与 needle-in-haystack 评测骨架，并总结 GQA、Tensor Parallel、chunked prefill、mrope 多模态等六个生产落地陷阱。
WebGPU Compute Shader 在大模型推理中的工程化实践：从 GPGPU 到生产环境
深入讲解 WebGPU 计算着色器在浏览器端 AI LLM 推理中的工程实践，涵盖 WGSL 编程模型、分块 GEMM 优化、KV Cache 管理、Flash Attention 适配，以及性能基准测试和生产级推理引擎构建。
LLM推理优化2026：投机解码、稀疏注意力与PagedAttention的协同演进全景
深入解析2026年大语言模型推理优化的三大核心技术——投机解码、稀疏注意力与PagedAttention的协同演进与工程实践
LLM Tokenizer 深度工程实战：从 BPE 合并算法、预分词正则到压缩率与多语言词表设计的生产级全解
拆解 LLM 分词器的工程内核：BPE 合并的增量训练实现、GPT-2 预分词正则的设计动机（数字为何三位一组）、字节级回退的边界处理、tiktoken 风格并行预分词与块边界一致性、压缩率与生育率的量化评估方法，附多语言词表设计与生产坑位清单。
