LLM 部署架构:vLLM、TGI 与 Triton 的对比选型 LLM 部署架构:vLLM、TGI 与 Triton 的对比选型——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 15 浏览
RAG 系统的检索增强架构:混合检索、重排序与上下文压缩的工程实践 RAG 系统的检索增强架构:混合检索、重排序与上下文压缩的工程实践——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月13日 0 点赞 0 评论 15 浏览
LLM 的思维链推理:Prompt 工程、自洽性解码与错误修正机制 LLM 的思维链推理:Prompt 工程、自洽性解码与错误修正机制——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 15 浏览
向量数据库:Milvus、Qdrant、Weaviate 与 pgvector 对比 向量数据库:Milvus、Qdrant、Weaviate 与 pgvector 对比——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 15 浏览
Prompt 工程实践:结构化输出、思维链与工具调用设计 Prompt 工程实践:结构化输出、思维链与工具调用设计——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 14 浏览
大模型的推理优化:PagedAttention、连续批处理与 KV Cache 大模型的推理优化:PagedAttention、连续批处理与 KV Cache——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 14 浏览
大模型推理的并行策略:张量并行、流水线并行与数据并行 大模型推理的并行策略:张量并行、流水线并行与数据并行——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月13日 0 点赞 0 评论 13 浏览
推理引擎的算子优化:CUDA Kernel、FlashAttention 与融合 推理引擎的算子优化:CUDA Kernel、FlashAttention 与融合——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月07日 0 点赞 0 评论 13 浏览
AI Agent 架构:规划、记忆、工具调用与多智能体协作 AI Agent 架构:规划、记忆、工具调用与多智能体协作——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月12日 0 点赞 0 评论 13 浏览
向量检索工程:HNSW 参数调优、量化索引与混合检索 向量检索工程:HNSW 参数调优、量化索引与混合检索——从底层原理到生产落地的工程化思考,包含完整代码示例与性能数据。 人工智能 2026年11月08日 0 点赞 0 评论 13 浏览