大语言模型
LLM 推理优化实战:从 KV Cache 到推测解码的全栈性能工程
系统解构LLM推理优化全栈技术体系:PagedAttention分页注意力、KV Cache量化与淘汰策略、连续批处理调度、推测解码原理与实践方案对比、量化部署工程指南、生产部署最佳实践与前沿趋势。
大语言模型模型微调技术深度分析:从理论到实践
深入分析大语言模型模型微调的主流技术方案,包括全量微调、LoRA、QLoRA、Prefix Tuning等方法的核心原理、工程实践与评估体系,为AI工程师提供全面的微调技术参考。
LLM推理优化实战:从KV Cache到推测解码的性能飞跃
深入剖析LLM推理优化核心技术栈:KV Cache内存管理、推测解码加速原理、GPTQ/AWQ/W8A8量化部署、FlashAttention IO优化,以及vLLM/TensorRT-LLM/SGLang推理框架架构对比
LoRA实战:用2%的训练成本释放大语言模型的全部潜力
深入解析LoRA低秩适配原理与实战,覆盖数学直觉、完整代码实现、QLoRA优化、多任务适配器切换,以及真实基准测试对比分析。
多模态大模型的技术演进与前沿实践:从视觉语言对齐到统一理解生成
深入剖析多模态大模型的核心技术路径:从视觉语言对齐到统一理解生成的架构演进、关键训练策略、前沿突破与产业落地应用
Prompt Engineering 实战进阶:从零到精通的系统化方法论
系统讲解Prompt Engineering的核心原则、进阶技巧和实战案例,从基础概念到CoT、Few-Shot、ReAct等高级方法论,适合AI从业者和希望提升LLM使用效果的技术人员阅读。
