Prompt 工程:上下文学习、思维链与结构化输出 Prompt 工程:上下文学习、思维链与结构化输出——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月07日 0 点赞 0 评论 10 浏览
推理引擎的算子优化:CUDA Kernel、FlashAttention 与融合 推理引擎的算子优化:CUDA Kernel、FlashAttention 与融合——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月07日 0 点赞 0 评论 13 浏览
大模型推理的 KV Cache 复用:前缀缓存、分页注意力与语义缓存 大模型推理的 KV Cache 复用:前缀缓存、分页注意力与语义缓存——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月07日 0 点赞 0 评论 20 浏览
大模型的量化推理:INT8、INT4 与混合精度量化的工程实践 大模型的量化推理:INT8、INT4 与混合精度量化的工程实践——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月07日 0 点赞 0 评论 21 浏览
Prompt 工程进阶:结构化输出、Few-Shot 与上下文注入防御 Prompt 工程进阶:结构化输出、Few-Shot 与上下文注入防御——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月06日 0 点赞 0 评论 55 浏览
大模型训练中的混合精度策略:FP16/BF16 与梯度缩放的数值稳定性 大模型训练中的混合精度策略:FP16/BF16 与梯度缩放的数值稳定性——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月06日 0 点赞 0 评论 27 浏览