大模型的推理优化:量化、KV Cache 与投机解码 大模型的推理优化:量化、KV Cache 与投机解码——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月12日 0 点赞 0 评论 27 浏览
大模型训练中的混合精度策略:FP16/BF16 与梯度缩放的数值稳定性 大模型训练中的混合精度策略:FP16/BF16 与梯度缩放的数值稳定性——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月06日 0 点赞 0 评论 27 浏览
AI Agent 的规划与工具调用:ReAct 范式、函数调用与记忆管理 AI Agent 的规划与工具调用:ReAct 范式、函数调用与记忆管理——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月09日 0 点赞 0 评论 27 浏览
推理引擎的算子优化:CUDA Kernel、FlashAttention 与融合 推理引擎的算子优化:CUDA Kernel、FlashAttention 与融合——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月13日 0 点赞 0 评论 27 浏览
大模型的 RLHF 与 DPO:偏好对齐、奖励模型与策略优化 大模型的 RLHF 与 DPO:偏好对齐、奖励模型与策略优化——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月10日 0 点赞 0 评论 26 浏览
大模型的推理优化:量化、剪枝与蒸馏 大模型的推理优化:量化、剪枝与蒸馏——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月13日 0 点赞 0 评论 25 浏览
大模型的量化技术:GPTQ、AWQ 与 GGUF 格式的工程实践 大模型的量化技术:GPTQ、AWQ 与 GGUF 格式的工程实践——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月12日 0 点赞 0 评论 25 浏览
AI Agent 的多智能体协作:消息传递、任务分解与共识机制 AI Agent 的多智能体协作:消息传递、任务分解与共识机制——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月13日 0 点赞 0 评论 25 浏览
向量数据库:Milvus、Qdrant、Weaviate 与 pgvector 对比 向量数据库:Milvus、Qdrant、Weaviate 与 pgvector 对比——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月13日 0 点赞 0 评论 23 浏览
多模态大模型的视觉-语言对齐:CLIP 对比学习与跨模态注意力机制 多模态大模型的视觉-语言对齐:CLIP 对比学习与跨模态注意力机制——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月13日 0 点赞 0 评论 23 浏览