Hadoop

Apache YARN 资源调度深度工程实战:从 RMApp/RMContainer 状态机、层级队列与 DRF 到心跳拉取式分配、抢占与生产故障全链路

拆解 YARN 调度内核的四层设计:RMApp/RMAppAttempt/RMContainer 三层状态机与事件驱动、层级队列与 DRF 主导资源公平的二维公平性计算、NM 心跳拉取式分配为何能撑到万级节点、Container 本地化与抢占信号语义,并给出六类生产故障模式的排查清单。

Apache MapReduce Shuffle 引擎深度工程实战:从 MapOutputBuffer 环形缓冲、Spill 索引排序到 Reduce 端拉流归并的全链路解析

拆解 MapReduce Shuffle 全链路:MapOutputBuffer 四数组环形缓冲与只排索引不排数据的排序技巧、spill 数据文件与 IndexRecord 索引文件的 O(1) 定位、ShuffleHandler 从 Jetty 迁 Netty 的动因、Reduce 端 MapHost 的 PENDING/BUSY/PENALIZED 状态机与慢启动、k 路归并与 final merge 流式接口,并给出生产故障排查清单与调优参数矩阵。