FP8 混合精度训练工程实践:从 H100 到大模型训练的范式跃迁 深入解析 FP8 混合精度训练的硬件原理与生产实践,覆盖 E4M3/E5M2 格式设计、Loss Scaling 策略、Transformer Engine 实战、分布式训练协同优化,以及 Blackwell 未来展望。 eBPF技术 2026年10月01日 0 点赞 0 评论 19 浏览
从零构建生产级 RLHF 训练管线:PPO、DPO 与 REINFORCE 的算法实现与工程实践 深入解析 RLHF 训练管线的核心算法与工程实践,涵盖 Reward Model 训练、PPO 实现、DPO 推导、RLOO 基线优化及分布式训练方案 算法与数据结构 2026年10月04日 0 点赞 0 评论 111 浏览