人工智能

学习率调度深度实战:从 Warmup、Cosine 退火到 WSD 与线性缩放律的大批量预训练工程

系统拆解学习率调度的第一性原理:为什么 LR 主宰优化轨迹与泛化(flat/sharp minima),从恒定与阶梯衰减的朴素基线,到线性/常数/余弦三种 Warmup 的动力学成因,再到 Cosine 退火、SGDR 与现代化大模型预训练范式 Warmup-Stable-Decay(WSD),并深入线性缩放律与 Accumulated Warmup 修正、与梯度累积/混合精度/梯度裁剪的交互陷阱,给出可复用的 PyTorch 组合调度器与生产陷阱清单,与本站 RMSNorm、相对位置编码、交叉注意力共同构成 Transformer 内部机制与训练工程深度解系列。

交叉注意力深度实战:从编码器-解码器对齐、KV 投影到多模态融合与流式解码工程

系统拆解交叉注意力的第一性原理:Q 来自解码端、K/V 来自编码端,从 Bahdanau 加性注意力、Luong 乘性注意力到现代缩放点积交叉注意力,亲手实现一个生产级 CrossAttention 模块,并深入多模态融合(Whisper/视觉-语言/Perceiver)、流式解码的 cross KV 缓存复用、FlashAttention 适配与生产陷阱清单,与本站 RMSNorm、相对位置编码共同构成 Transformer 内部机制深度解三部曲。

相对位置编码深度实战:从绝对位置嵌入、T5 相对注意力、ALiBi 到 DeBERTa 解耦位置表示

Transformer 的自注意力对 token 顺序是**置换不变**的:把输入序列打乱,注意力矩阵只会在行/列上跟着重排,输出集合不变。这意味着如果不显式注入顺序信号,模型看到 "猫 吃 鱼" 与 "鱼 吃 猫" 会得到完全相同的语义表征——这在实际任务里是灾难。