MLIR 编译器基础设施:多级中间表示与 AI/ML 系统编译的全栈工程 MLIR 通过可组合方言体系解决传统编译器的语义下降悬崖问题,成为 TensorFlow/XLA、PyTorch inductor、oneAPI、Triton 等 AI 基础设施核心编译层。 编译原理 2026年10月07日 0 点赞 0 评论 58 浏览
AI 训练与推理混部场景下 Linux I/O 优先级工程实战:从 cgroup iocost 到 io_uring sqthread 的端到端隔离 深入解析 Linux 内核 I/O 优先级四层控制体系(NVMe WRR / cgroup v2 io / ionice / io_uring sqthread),提供 AI 训练与推理混部场景下从 cgroup iocost 到 NVMe 硬件队列的完整隔离方案与可观测性实践。 进程调度 2026年10月07日 0 点赞 0 评论 122 浏览
Rust Candle 深度学习框架深度工程实践:从张量原语到 LLM 推理引擎 深入剖析 Hugging Face Candle 框架核心架构,通过完整代码示例展示如何从零构建生产级 LLM 推理引擎,涵盖张量系统、设备抽象、KV-Cache 管理、KV 缓存分页、采样策略、连续批处理、4bit 量化部署等内容。 推理部署 2026年10月07日 0 点赞 0 评论 70 浏览
Kubernetes Scheduling Framework 深度实战:从 Plugin 机制到 AI 训练任务多级抢占式调度 深入剖析 Kubernetes 调度框架的 Plugin 扩展机制,通过完整的 AI 训练任务多级抢占式调度实战案例,讲解 Scheduling Cycle、Binding Cycle、Best-Fit 碎片治理、抢占执行等核心生产实践。 K8s核心 2026年10月06日 0 点赞 0 评论 92 浏览
从 io_uring 到零拷贝对象存储网关:AI 训练数据管道的性能革命 深入剖析如何从零构建一个基于 io_uring 的 S3 兼容对象存储网关,为 AI 训练数据管道提供极致吞吐。探讨 Fixed Buffers、SQPOLL、零拷贝 sendmsg、多 IO 合并等核心技术的工程实践。 文件系统 2026年10月06日 0 点赞 0 评论 111 浏览
AI for Systems:机器学习驱动的系统优化工程实践 深入剖析机器学习驱动的系统优化工程实践,涵盖Learned Index、学习缓存替换、AI驱动查询优化器、强化学习调度器、拥塞控制智能化等前沿方向 系统优化 2026年10月06日 0 点赞 0 评论 94 浏览
RLHF 训练工程深度实战:从 Reward Model 到 PPO 分布式对齐的全链路实现 从人类偏好到模型对齐,解析ChatGPT、Claude等大模型背后的RLHF核心工程实践,涵盖Reward Model设计、PPO算法实现、分布式训练架构与生产级解决方案 分布式系统 2026年10月06日 0 点赞 0 评论 84 浏览
用 eBPF 构建分布式 AI 训练集群的实时可观测性平台 本文深入讲解如何利用 eBPF 在操作系统内核层面对分布式 AI 训练任务做零侵入式实时观测,覆盖 GPU 计算间隙、NCCL 通信模式、PyTorch DataLoader 延迟与 GPUDirect Storage 带宽瓶颈四大维度 eBPF入门 2026年10月06日 0 点赞 0 评论 119 浏览
Linux内核F2FS深度工程:面向AI训练checkpoint优化的日志结构文件系统实战 深入剖析Linux F2FS日志结构文件系统的内核数据结构、GC策略和checkpoint一致性机制,给出面向AI训练checkpoint场景的实战调优方案 文件系统 2026年10月06日 0 点赞 0 评论 106 浏览
Zstandard 压缩引擎深度工程实战:从 FSE 有限状态熵编码、ANS 状态机到字典训练与流式 API 的全链路解析 沿真实工程链路拆开 Zstandard:先讲清 LZ77+Huffman+FSE 三段流水线各自解决哪个维度的冗余,再用一个实测跑通(300 组随机模糊测试零失败)的 64 位 rANS 最小实现,量化 ANS 相比 Huffman 在倾斜分布上最高 88 倍的压缩率优势 工程实践 2026年10月06日 0 点赞 0 评论 71 浏览