Prompt 工程实践:结构化输出、思维链与工具调用设计 Prompt 工程实践:结构化输出、思维链与工具调用设计——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 14 浏览
大模型的推理优化:PagedAttention、连续批处理与 KV Cache 大模型的推理优化:PagedAttention、连续批处理与 KV Cache——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 14 浏览
大模型推理的 KV Cache 管理:分页注意力、前缀复用与显存带宽优化 大模型推理的 KV Cache 管理:分页注意力、前缀复用与显存带宽优化——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 13 浏览
大模型的 SFT 数据工程:数据清洗、去重与质量评估 大模型的 SFT 数据工程:数据清洗、去重与质量评估——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 11 浏览
大模型的训练加速:混合精度、梯度累积与分布式训练 大模型的训练加速:混合精度、梯度累积与分布式训练——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 111 浏览
AI Agent 架构:规划、记忆、工具调用与多智能体协作 AI Agent 架构:规划、记忆、工具调用与多智能体协作——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 16 浏览
大模型的量化技术:GPTQ、AWQ 与 GGUF 格式的工程实践 大模型的量化技术:GPTQ、AWQ 与 GGUF 格式的工程实践——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 75 浏览
大模型的上下文窗口扩展:位置编码外推、稀疏注意力与 Ring Attention 大模型的上下文窗口扩展:位置编码外推、稀疏注意力与 Ring Attention——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 16 浏览
LLM 部署架构:vLLM、TGI 与 Triton 的对比选型 LLM 部署架构:vLLM、TGI 与 Triton 的对比选型——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 15 浏览
向量检索工程:HNSW 参数调优、量化索引与混合检索 向量检索工程:HNSW 参数调优、量化索引与混合检索——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 13 浏览