模型微调
  1. 首页
  2. 人工智能
  3. 大语言模型
  4. 模型微调

列表

学习率调度深度实战：从 Warmup、Cosine 退火到 WSD 与线性缩放律的大批量预训练工程

学习率调度深度实战：从 Warmup、Cosine 退火到 WSD 与线性缩放律的大批量预训练工程

系统拆解学习率调度的第一性原理：为什么 LR 主宰优化轨迹与泛化（flat/sharp minima），从恒定与阶梯衰减的朴素基线，到线性/常数/余弦三种 Warmup 的动力学成因，再到 Cosine 退火、SGDR 与现代化大模型预训练范式 Warmup-Stable-Decay（WSD），并深入线性缩放律与 Accumulated Warmup 修正、与梯度累积/混合精度/梯度裁剪的交互陷阱，给出可复用的 PyTorch 组合调度器与生产陷阱清单，与本站 RMSNorm、相对位置编码、交叉注意力共同构成 Transformer 内部机制与训练工程深度解系列。
模型微调 2026年10月08日
LLM 后训练量化深度实战：从 GPTQ/AWQ 到 FP8 与 KV Cache 量化的显存-带宽极限工程

LLM 后训练量化深度实战：从 GPTQ/AWQ 到 FP8 与 KV Cache 量化的显存-带宽极限工程

从 Roofline 模型定量证明 decode 阶段 Tensor Core 利用率仅 0.33% 的内存墙困境出发，系统拆解 LLM 后训练量化的完整工程栈：group-wise 量化粒度、SmoothQuant 的 outlier 迁移、GPTQ 的 Hessian 误差补偿、AWQ 的激活感知缩放、FP8 延迟缩放与 KV Cache 分级量化，并给出逐层重建误差定位法与生产选型决策树。
模型微调 2026年09月29日