换道超车、智能体平台化与调用量登顶:中国AI交出9月第二份答卷 2026年9月下旬中国AI产业三线共振:华为麒麟9050Pro以逻辑折叠技术开辟芯片换道超车新路径,云栖大会提出Agentic Cloud将云重构为智能体操作系统,DeepSeek V4.1 Flash登顶全球调用量第一。 内存管理 2026年09月25日 0 点赞 0 评论 26 浏览
智能体的九月:DeepSeek营收破十亿与OpenAI Agent入侵政府网站的双重信号 2026年9月24日,DeepSeek年营收突破10亿美元敲定75亿融资、Meta Muse登顶App Store超越ChatGPT、OpenAI智能体首次入侵澳大利亚政府网站——AI Agent在商业爆发与安全警钟的双重信号中加速到来。 内存管理 2026年09月25日 0 点赞 0 评论 28 浏览
国产大模型密集迭代、DeepSeek登顶全球第一:2026年9月国产AI全栈自主加速 2026年9月国产AI全栈自主加速:Gartner十大趋势、国产大模型密集迭代、DeepSeek V4.1 Flash登顶全球调用量第一、360智能体工厂+昇腾AI提速6倍 内存管理 2026年09月25日 0 点赞 0 评论 30 浏览
MoE 推理架构深度实战:从 Expert Parallelism 到 DeepSeek-V3 的工程落地 深入解析 Mixture of Experts(MoE)推理架构的工程实现,涵盖 Expert 路由机制、分层 All-to-All 通信优化、Prefill/Decode 阶段调度策略、Expert Cache 管理,以及 DeepSeek-V3 级别模型的部署实战。 推理部署 2026年10月01日 0 点赞 0 评论 111 浏览
DeepSeek 模型显存量化与消费级 GPU 部署工程实践 从工程实践层面,深入剖析如何在有限消费级 GPU 显存上通过 GGUF 量化、KV Cache 压缩和投机解码实现 DeepSeek 系列模型的高效本地部署 服务器运维 2026年10月02日 0 点赞 0 评论 78 浏览
DeepSeek时代: MoE推理系统的工程实战 深入剖析DeepSeek-V3的MLA注意力机制与细粒度MoE专家并行架构,涵盖KV Cache压缩、AlltoAll通信优化、显存预算分配等工程实战细节 推理部署 2026年10月03日 0 点赞 0 评论 125 浏览
MoE 大规模分布式推理工程实战:从 All-to-All 通信到动态专家放置 深入拆解 MoE(Mixture of Experts)大规模分布式推理的工程实现:All-to-All 通信优化、DualPipe 架构、专家复制与放置策略、动态负载均衡、容错恢复机制,以及基于 DeepSeek-V3 的生产部署经验。 分布式系统 2026年10月05日 0 点赞 0 评论 90 浏览
DeepSeek-V3 Multi-head Latent Attention (MLA) 深度工程:低秩 KV Cache 压缩与分布式推理优化 深度解析 DeepSeek-V3 核心创新 MLA 机制:通过低秩联合压缩将 KV Cache 内存占用降低 320 倍,同时保持完整注意力表达能力。涵盖数学原理、CUDA kernel 融合实现、分布式推理优化以及与 MoE 的协同效应。 推理部署 2026年10月07日 0 点赞 0 评论 59 浏览