大模型微调实战：从LoRA到QLoRA的高效参数微调技术

为什么需要微调

通用大模型在预训练阶段学习了广泛的世界知识，但在特定领域任务上表现不佳——专业术语理解不准、输出格式不符合要求、以及领域知识不足。微调通过在领域数据上继续训练，让通用模型适应特定场景。但全参数微调（Full Fine-Tuning）一个70B模型需要数百GB GPU显存——参数高效微调（PEFT）被提出来解决这个问题。

LoRA：低秩适配

LoRA的核心假设：预训练模型的权重变化具有低秩特性——即微调时可以表示为两个小矩阵的乘积。具体实现：冻结原始权重W，在旁边并行增加低秩矩阵A(r×d)和B(d×r)，输出采用h=Wx+BAx。秩r通常选4-16，可训练参数减少95%以上。多个LoRA Adapter可以切换加载——同一个基座模型支持多种下游任务。

QLoRA与量化微调

QLoRA在LoRA的基础上引入4-bit量化基底模型+双量化（double quantization）+分页优化器（处理显存峰值）。这意味着原本需要80GB显存的65B模型可以在48GB的消费级GPU上微调。训练效果与全参数微调基本持平——但训练时间约增加25%。

微调数据准备

微调数据质量远比数量重要。有效微调数据构成原则：多样性（覆盖模型应该掌握的各种情况）+质量（标注正确、表述清晰）+分布合理性（正负样本比例与实际部署场景匹配）。数据格式：每条训练样本为{"instruction":"","input":"","output":""}，使用ChatML或Alpaca格式。数据量从几百到数万条均可——关键是每条数据的质量。

训练参数与评估

关键训练参数：learning rate（LoRA通常比全参数微调大一倍）、epoch数（通常1-3太多会过拟合）、warmup ratio（0.05-0.1）、以及evaluation strategy。评估方法：特定任务指标（F1/BLEU）或人工评估。

微调工具链

Hugging Face PEFT是微调的主流库；LLaMA-Factory集成了WebUI的微调流水线；Axolotl提供YAML配置的Unsloth加速微调。vLLM/TGI支持微调后模型的高性能部署。