FlashAttention Tiling 策略与在线 Softmax:从数学推导到 IO-Aware 工程实战 深入分析FlashAttention的Tiling策略与在线Softmax数学原理:从增量归约公式推导,到Forward/Backward Tiling设计、Tensor Core WGMMA编程适配、三级异步流水线,延伸至Flash-Decoding与Flash-Decoding 推理优化 大语言模型 2026年10月06日 0 点赞 0 评论 83 浏览
时间序列分析深度实战:从平稳性、自相关与偏自相关到 ARIMA、季节性分解、指数平滑与卡尔曼滤波的完整工程链路 从第一性原理出发,用纯numpy从零实现时间序列分析七条主干:自相关ACF、偏自相关PACF定阶、ADF单位根平稳性检验、差分ARIMA、加法季节性分解、Holt-Winters指数平滑、卡尔曼滤波最优估计,并以非线性自回归把时间序列与RNN/Transformer/状态空间模型(SSM)打通 数学 2026年10月13日 0 点赞 0 评论 83 浏览
当编译器替你证明定理:Rust HRTB 与特质求解器的数学之美 这里有一个根本性的问题需要回答:为什么闭包 trait 上的生命周期参数不能“自动推断”出全称量化?因为 Rust 需要保证 零成本抽象 ——每一个 trait bound 都对应一个具体的虚函数表布局或单态化代码。隐藏的全称量化会让编译器无法确定运行时语义。 编译原理 2026年09月29日 0 点赞 0 评论 88 浏览
从第一性原理推导 Flash Attention:IO 复杂度、Tiling 策略与在线 Softmax 的数学工程 从第一性原理出发,深入推导 Flash Attention 的核心数学变换,分析 IO 复杂度下界,解析在线 Softmax 的修正引理,讨论 Tiling 策略、SRAM 分区与工程落地中的关键细节。覆盖 Flash Attention 1/2/3 的演进与不同硬件的调优参数。 算法与数据结构 2026年10月07日 0 点赞 0 评论 90 浏览
Linux CFS 调度器深度实战:从红黑树到完全公平的数学原理 深入解析 Linux CFS 完全公平调度器的核心原理,涵盖 vruntime 计算机制、红黑树数据结构、组调度、NUMA 感知、生产环境参数调优,以及 perf sched + BPF 诊断工具实战。 进程调度 2026年10月03日 0 点赞 0 评论 100 浏览