大模型推理的 KV Cache 管理：分页注意力、前缀复用与显存带宽优化
大模型推理的 KV Cache 管理：分页注意力、前缀复用与显存带宽优化——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
AI 工程
LLM 服务的连续批处理与 Speculative Decoding：吞吐与延迟的联合优化
LLM 服务的连续批处理与 Speculative Decoding：吞吐与延迟的联合优化——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
多模态模型的架构：视觉编码器、跨模态对齐与指令微调
多模态模型的架构：视觉编码器、跨模态对齐与指令微调——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
大模型的 SFT 数据工程：数据清洗、去重与质量评估
大模型的 SFT 数据工程：数据清洗、去重与质量评估——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
大模型的推理优化：量化、剪枝与蒸馏
大模型的推理优化：量化、剪枝与蒸馏——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
大模型微调技术：LoRA 低秩适配、QLoRA 量化与全参数微调对比
大模型微调技术：LoRA 低秩适配、QLoRA 量化与全参数微调对比——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
大模型推理的并行策略：张量并行、流水线并行与数据并行
大模型推理的并行策略：张量并行、流水线并行与数据并行——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
RAG 系统的检索增强架构：混合检索、重排序与上下文压缩的工程实践
RAG 系统的检索增强架构：混合检索、重排序与上下文压缩的工程实践——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
Agent 架构设计：规划、记忆、工具调用与多智能体协作
Agent 架构设计：规划、记忆、工具调用与多智能体协作——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
Prompt 工程：上下文学习、思维链与结构化输出
Prompt 工程：上下文学习、思维链与结构化输出——从底层原理到生产落地的工程化思考，包含完整代码示例与性能数据。
