DeepSeek时代: MoE推理系统的工程实战 深入剖析DeepSeek-V3的MLA注意力机制与细粒度MoE专家并行架构,涵盖KV Cache压缩、AlltoAll通信优化、显存预算分配等工程实战细节 推理部署 2026年10月03日 0 点赞 0 评论 125 浏览
MoE 推理架构深度实战:从 Expert Parallelism 到 DeepSeek-V3 的工程落地 深入解析 Mixture of Experts(MoE)推理架构的工程实现,涵盖 Expert 路由机制、分层 All-to-All 通信优化、Prefill/Decode 阶段调度策略、Expert Cache 管理,以及 DeepSeek-V3 级别模型的部署实战。 推理部署 2026年10月01日 0 点赞 0 评论 111 浏览
从嘴到手:当AI Agent开始替你上班、替黑客攻击 2026年9月,AI Agent从概念走向生产:OpenAI Agents API公测让一次调用即可创建生产级Agent;西班牙发生首宗AI Agent自主实施的数据泄露攻击;黑客利用AI Agent拿下每个目标仅25美元;9月全球27款大模型密集发布;华为全联接大会展示Agent基础设施全栈方案。AI正在从嘴进化到手,从工具变成员工。 大语言模型 2026年09月25日 0 点赞 0 评论 93 浏览
2026年开源生态全景透视:从AI开放权重到云原生基础设施的关键项目演进与工程实践 2026年开源生态系统深度剖析:AI大模型开放权重、WebAssembly+eBPF云原生基础设施、向量数据库与数据湖格式的技术演进,以及企业开源治理与最佳实践的工程级完整指南。 容器与K8s 2026年09月22日 0 点赞 0 评论 91 浏览
MoE 大规模分布式推理工程实战:从 All-to-All 通信到动态专家放置 深入拆解 MoE(Mixture of Experts)大规模分布式推理的工程实现:All-to-All 通信优化、DualPipe 架构、专家复制与放置策略、动态负载均衡、容错恢复机制,以及基于 DeepSeek-V3 的生产部署经验。 分布式系统 2026年10月05日 0 点赞 0 评论 90 浏览
AI发展十字路口:从暂缓IPO到百万卡集群,安全与算力双线博弈(2026年9月24日科技周报) 深度解读2026年9月下旬全球AI与安全治理最新动态:联合国安理会AI安全辩论、Anthropic与OpenAI分道扬镳、华为昇腾960超节点商用、中国大模型连续21周领跑全球。 分布式系统 2026年09月24日 0 点赞 0 评论 81 浏览
从云栖到骁龙:AI智能体引爆算力军备竞赛,DeepSeek公开Agent训练基础设施(2026年9月24日科技周报) 本周科技资讯盘点:2026云栖大会发布国产最强AI芯片真武V900,性能达上代3倍;高通骁龙峰会展示智能体AI PC生态;DeepSeek梁文锋署名论文公开Agent训练沙盒平台DSec;AICC大会发布智能体基础设施报告;联合国安理会聚焦AI安全治理 模型微调 2026年09月24日 0 点赞 0 评论 79 浏览
当AI开始开发AI:从Anthropic的26%到联合国安理会紧急辩论 2026年9月深度复盘:Anthropic披露Claude已主导26%内部AI研发,OAI-HF事件暴露智能体群体失控风险,Altman和Amodei罕见同台联合国安理会呼吁全球安全标准;与此同时中美建立AI对话机制,马斯克预判中国两三年补齐算力缺口,RSI(递归式自我改进)正从理论变为工业现实。 大语言模型 2026年09月25日 0 点赞 0 评论 79 浏览
DeepSeek 模型显存量化与消费级 GPU 部署工程实践 从工程实践层面,深入剖析如何在有限消费级 GPU 显存上通过 GGUF 量化、KV Cache 压缩和投机解码实现 DeepSeek 系列模型的高效本地部署 服务器运维 2026年10月02日 0 点赞 0 评论 78 浏览