大语言模型 - 大模型技术实战

AI Agent 记忆系统工程化实践：从上下文窗口到长期记忆架构的完整设计路径

从认知科学基础到工程落地的AI Agent记忆系统完整指南：短期工作记忆优化、长期记忆存储与混合检索架构、基于图数据库的关系记忆建模、记忆提取策略、安全遗忘机制，以及生产级Agent记忆系统的性能优化与常见陷阱

大语言模型 2026年09月22日 0 点赞 0 评论 57 浏览

AI Agent的工具使用与动态编排系统设计（第35部分）：从单工具调用到复杂任务执行的完整工程实践

AI Agent的工具使用与动态编排系统设计（第35部分）：从单工具调用到复杂任务执行的完整工程实践，涵盖工具注册、参数校验、执行引擎、多步编排、异常恢复、安全设计等核心模块

大语言模型 2026年09月21日 0 点赞 0 评论 57 浏览

ARM SME 矩阵扩展：LLM 推理底层算子的深度工程实践

从 ARMv9.2-A 指令集到 Apple M4 与 Ampere Altra 的实矩阵乘法加速路径。深度剖析 SME 的 ZA 存储模型、FMOPA 外积指令、BF16 GEMM 实现、Attention Score 算子优化，以及 llama.cpp 集成实战与性能调优数据。

推理部署 2026年10月07日 0 点赞 0 评论 56 浏览

Model Context Protocol (MCP) 深度实战：构建类型安全的 AI 工具调用协议

深入剖析 Model Context Protocol 的架构、生命周期与四大核心原语（Tools/Resources/Prompts/Sampling），并分别用 TypeScript 官方 SDK 与 Rust 裸 JSON-RPC 从零构建可用 MCP Server，涵盖 stdio 与 Streamable HTTP 传输及安全最佳实践。

大语言模型 2026年10月05日 0 点赞 0 评论 56 浏览

AI Agent 工具调用的形式化规约与运行时验证：从 TLA 到 Rust 类型状态机的工程实践

探讨如何为 AI Agent 的工具调用建立可证明的安全边界。从 TLA+ 规约建模出发，结合 Rust 类型状态机编译期验证和 WASM 沙箱运行时隔离，构建三层纵深防御体系。

大语言模型 2026年10月05日 0 点赞 0 评论 56 浏览

AI 基础设施的"杰文斯悖论"：为什么效率翻倍，算力消耗反而暴涨？

探索AI推理效率提升反而导致算力总消耗暴涨的杰文斯悖论现象。从FlashAttention、推测解码、KV Cache优化等技术浪潮出发，分析效率引擎如何成为需求膨胀的催化剂，并提供数学建模与工程应对之道。

大语言模型 2026年10月02日 0 点赞 0 评论 56 浏览

从零搭建生产级 LLM 应用：RAG 架构优化与工程最佳实践

从零搭建生产级LLM应用的RAG架构实战指南，涵盖文档解析、文本切分、混合检索、重排序到评估体系的完整工程链路

大语言模型 2026年09月25日 0 点赞 0 评论 56 浏览

2026年9月观察：AI产业的三重变局——大模型密集迭代、全球治理机制成型、办公入口争夺战

2026年9月，全球AI产业同步经历三层结构性变化：国内大模型密集迭代（阶跃星辰Step 5 Preview 6000亿参数、中国电信Xing4.0-29B-A4B、阿里Qwen3.8-Omni-Flash）、全球AI治理机制密集建立（中美成立AI对话机制、DeepMind Institute首倡模型自愿评估）、AI从独立网页加速嵌入办公系统（ChatGPT for Microsoft Word全平台开放）。三重信号叠加，AI正在从"实验室产品"变为"基础设施"。

大语言模型 2026年09月25日 0 点赞 0 评论 56 浏览