分布式训练并行策略体系：ZeRO / FSDP / 3D Parallelism / Pipeline Bubble 优化实战 大模型分布式训练并行策略深度实战——从ZeRO三阶段显存优化到FSDP工程实现，从张量并行与流水线并行的拓扑映射到Bubble消除策略（1F1B/Interleaved/ZBV），附生产级配置模板。 AI应用开发 2026年10月02日 0 点赞 0 评论 2 浏览
