大语言模型

LoRA微调实战:从零实现参数高效微调

深入解析 LoRA(Low-Rank Adaptation)的数学原理与工程实践。涵盖核心直觉、架构设计、从零实现、训练流程、QLoRA量化微调、多任务管理、DoRA改进版,以及常见问题排查与调优指南。附完整 PyTorch 代码示例,帮助读者在消费级显卡上高效微调大语言模型。

大模型推理引擎核心技术:PagedAttention、Continuous Batching与SGLang的深度剖析

从零深入剖析LLM推理引擎核心技术:记忆分页管理PagedAttention如何消除KV Cache的内存碎片、Continuous Batching如何消除GPU空闲等待、推测解码如何实现推理加速。全面对比vLLM与SGLang两大开源推理框架的架构差异与性能表现,涵盖直觉解释、工程细节到分布式部署最佳实践。