分布式系统

万亿参数大模型推理系统架构:从显存墙到多节点部署的实战工程

深入剖析万亿参数大模型推理的系统化工程架构,涵盖TP/PP/EP/DP四维并行策略组合、KV Cache三级存储/H2O淘汰策略、MXFP4/FP8量化协同、vLLM多节点部署实战(含docker-compose配置)、PD分离架构与Ray调度层调优、关键监控指标与自适应batch调度,以及HBM4-PIM/光学互连/联邦推理等前沿方向展望。

分布式事务深度实战:从 2PC 到 Saga 的事务一致性工程实践完全指南

从2PC理论到TCC/Saga实践,系统拆解分布式事务全方案:ACID与BASE理论辩证、TCC幂等与悬挂处理、Saga编排/协调双模式、Percolator跨行事务原理、事件溯源与CQRS架构、Seata四种模式源码实现与生产部署、RocketMQ事务消息、Debezium CDC、跨语言Saga与Dapr Workflow、NewSQL选型决策矩阵,一份完整的工程实战百科全书。

Raft 共识算法深度实战:从 Leader 选举到分布式状态机复制的完全工程指南

Raft 共识算法完全实战指南:从复制状态机原理、Leader 选举超时随机化、日志复制流水线、选举限制与安全性证明、Joint Consensus 成员变更、快照压缩与日志截断,到线性一致性读(ReadIndex/LeaseRead)、etcd 工业级优化(Pre-Vote/CheckQuorum/Pipeline/Snapshot)、生产级故障诊断、性能基准测试与扩展方向(Multi-Raft/Parallel Commit/Flexible Quorum)。附 Go 语言核心源码实现。

深入理解 Apache Kafka:从零拷贝到 ISR 机制、KRaft 共识与生产级调优的完全工程指南

从 Kafka 架构设计到生产级调优的完全工程指南:分布式提交日志原理、Page Cache 与零拷贝、分区策略与批处理、幂等 Producer 与 EOS 事务、Consumer 组再均衡机制、ISR/HW/Leader Epoch 一致性保障、KRaft 替代 ZooKeeper、生产环境六大避坑指南、性能调优实战参数,Kafka vs Pulsar vs RocketMQ 选型对比。

LLM 推理 Disaggregated Architecture:Prefill-Decode 分离架构深度实战

随着大模型推理规模从单机走向多机,Prefill与Decode阶段的计算特征差异成为系统瓶颈的根本原因。本文深入剖解NVIDIA Dynamo、Mooncake等工业界Disaggregated Inference架构的设计哲学,涵盖KV Cache传输优化、分布式调度算法、负载均衡策略,并结合真实生产环境数据给出工程实践指南。

Apache Kafka 深度实战:从 Producer/Consumer 到 KRaft、流处理与生产级调优的完全工程指南

深入解析 Apache Kafka 架构设计:从 Partition 复制机制、Producer 幂等性与事务语义、Consumer Group Rebalance 协议,到日志分段存储、零拷贝优化、KRaft 元数据管理、Kafka Streams 流处理,以及生产级容量规划与内核调优参数。对比 Pulsar 与 RocketMQ 选型策略。