MoE大模型专家并行与动态路由优化——从DeepSeek-V3到生产级推理架构
深入解析MoE稀疏激活架构下的Expert Parallelism设计，从原理推导到生产实战，涵盖Top-K Gating、Auxiliary Loss、All-to-All通信优化、Expert Offloading以及DeepSeek-V3的Aux-Free负载均衡策略。
LLM
ARM SME (Scalable Matrix Extension) 在终端 AI 推理中的架构演进与工程实践
深入剖析 ARMv9-A 架构的 Scalable Matrix Extension (SME)：二维 ZA Tile 存储模型、矩阵外积指令（SMOPA/FMOPA）语义、Linux 内核 ZA 上下文管理，以及如何为 MobileLLM 推理中的 QKV Projection 与 Attention 编写高性能 SME 内核，含完整汇编代码和性能基准对比
AI Agent 混沌工程：构建具有故障注入和自愈协议的弹性自治系统
深入探讨AI Agent系统的混沌工程实践：从LLM推理退化、工具调用级联失败、多智能体协作死锁等特有故障模式出发，用Rust实现层次化故障注入框架和自愈协议，构建生产级弹性运行时
AI推理引擎中的KV-Cache内存管理：从零设计Buddy-Slab混合分配器
深入分析LLM推理引擎中KV-Cache的内存访问模式，从零实现一个Buddy-Slab混合分配器。解决通用分配器在高并发KV-Cache分配场景下的锁竞争、页表碎片和NUMA不友好问题，实测性能优于malloc 13倍。
Token 级限流与 SLO 准入控制：LLM 生产服务的限流实战
深入解析 LLM 推理场景下的 Token 级限流工程：从滑动窗口计数、双桶协同、Token 预估器到 Redis 分布式限流和 SLO-Aware PI 准入控制，附 Rust 完整实现。
渐进式模型热更新：基于 CUDA IPC 与权重原子交换的 LLM 零停机部署工程实践
探讨如何利用 CUDA IPC 显存共享和双缓冲原子交换实现 LLM 推理服务的零停机模型更新。包含 C++ RAII 封装、VersionedTensor 引用计数、多 GPU 零拷贝同步等实现细节，以及基于 vLLM 的改造实践和自动回滚机制。
eBPF 加速 LLM 推理调度：从内核级可观测到动态 Batch 决策的全栈实践
探索如何利用 eBPF 实现 LLM 推理服务的全栈可观测性与动态调度优化，涵盖 syscall 层、uprobe、kprobe 三层探针设计，以及基于实时指标的 Adaptive Batch Size 决策器，实现 P99 TTFT 降低 77% 的生产效果。
从 Transformer 到 Mamba：状态空间模型如何重塑序列计算的效率边界
深度解析 Mamba 状态空间模型的数学基础、硬件感知算法与工程实践，探讨从 Transformer 的二次复杂度到线性复杂度的架构变迁，以及混合架构 Jamba 的最新进展。
CUDA Graph 动态形状捕获与 LLM 推理内存池优化深度实战
深入剖析 CUDA Graph 在 LLM 推理中的录制机制与动态形状挑战，提出 Chunked Prefill + 两阶段内存池 + 参数热更新的生产级优化方案
AI Agent 记忆系统架构深度实战：从向量检索到多模态长期记忆
AI Agent 记忆系统架构深度实战——从分层记忆分类学、向量检索、知识图谱导航到生产级卫生策略与前沿演进
