大模型微调技术:LoRA 低秩适配、QLoRA 量化与全参数微调对比 大模型微调技术:LoRA 低秩适配、QLoRA 量化与全参数微调对比——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月09日 0 点赞 0 评论 10 浏览
大模型的推理优化:量化、剪枝与蒸馏 大模型的推理优化:量化、剪枝与蒸馏——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 11 浏览
大模型的 SFT 数据工程:数据清洗、去重与质量评估 大模型的 SFT 数据工程:数据清洗、去重与质量评估——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 11 浏览
LLM 服务的连续批处理与 Speculative Decoding:吞吐与延迟的联合优化 LLM 服务的连续批处理与 Speculative Decoding:吞吐与延迟的联合优化——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月09日 0 点赞 0 评论 12 浏览
多模态模型的架构:视觉编码器、跨模态对齐与指令微调 多模态模型的架构:视觉编码器、跨模态对齐与指令微调——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月07日 0 点赞 0 评论 12 浏览
向量检索工程:HNSW 参数调优、量化索引与混合检索 向量检索工程:HNSW 参数调优、量化索引与混合检索——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 13 浏览
AI Agent 架构:规划、记忆、工具调用与多智能体协作 AI Agent 架构:规划、记忆、工具调用与多智能体协作——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月12日 0 点赞 0 评论 13 浏览
大模型推理的 KV Cache 管理:分页注意力、前缀复用与显存带宽优化 大模型推理的 KV Cache 管理:分页注意力、前缀复用与显存带宽优化——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 13 浏览
大模型推理的并行策略:张量并行、流水线并行与数据并行 大模型推理的并行策略:张量并行、流水线并行与数据并行——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月13日 0 点赞 0 评论 13 浏览
推理引擎的算子优化:CUDA Kernel、FlashAttention 与融合 推理引擎的算子优化:CUDA Kernel、FlashAttention 与融合——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月07日 0 点赞 0 评论 13 浏览