MoE大模型专家并行与动态路由优化——从DeepSeek-V3到生产级推理架构
深入解析MoE稀疏激活架构下的Expert Parallelism设计，从原理推导到生产实战，涵盖Top-K Gating、Auxiliary Loss、All-to-All通信优化、Expert Offloading以及DeepSeek-V3的Aux-Free负载均衡策略。
投稿
微信公众账号
微信扫一扫加关注
顶部