高性能计算

1. 首页
2. 高性能计算

图计算系统深度工程实战：从 Pregel 顶点中心 BSP、PowerGraph GAS 到 GraphBLAS 代数化算子与 GPU 图遍历

拆解现代图计算系统的三条技术路线：Pregel 的顶点中心 BSP 超步与 Combiner/Checkpoint 工程、PowerGraph 的 vertex-cut 与 GAS 模型如何应对幂律分布、GraphBLAS 如何用半环把图算法重写为稀疏线性代数，以及 GPU 上 CSR 遍历的 warp 级负载均衡与前沿策略，并给出工程选型对照表。

工程实践 2026年10月05日 0 点赞 0 评论 32 浏览

大模型分布式训练并行与显存工程实战：从 ZeRO 分片、FSDP 扁平参数到激活重计算与通信重叠全链路

沿真实工程决策链拆解大模型分布式训练：先算清混合精度 AdamW 的 16 字节/参数显存账本，再区分 DP/TP/PP 三种并行各自解决的维度，深入 ZeRO 三级分片与 FSDP FlatParameter 编排（含 70B 在 64 卡上的单卡显存实测表），给出选择性激活重计算的算力-显存兑换率与 use_reentrant 陷阱，最后落到 prefetch、bucket 与梯度累积 no_sync 的通信-计算重叠实战。

分布式系统 2026年10月06日 0 点赞 0 评论 31 浏览

Rust × CUDA Driver API 零拷贝 FFI 实战：从 Pinned Memory 到 IPC 跨进程 GPU 共享

深度解析 Rust 与 CUDA Driver API 的零拷贝 FFI 互操作，覆盖 bindgen 绑定、Pinned Memory 分配、Async Stream 回调桥接、CUDA IPC 跨进程 GPU 内存共享，附带完整代码示例与性能基准对比。

GPU并行计算 2026年10月06日 0 点赞 0 评论 35 浏览

多面体编译模型深度工程实战：从依赖多面体、仿射调度到 Tiling 与 GPU 代码生成的全链路解析

沿真实工程链路拆解多面体编译：迭代域与访问函数的仿射表示、依赖分析从 GCD/Banerjee 到 Farkas+ILP 的精确化路径、Feautrier/PLuTo 仿射调度搜索、Tiling 与 isl AST 代码生成，以及在 Polly、PPCG、MLIR Affine Dialect 中的工业落地形态与工程边界。

编译原理 2026年10月06日 0 点赞 0 评论 37 浏览

CUDA Graph 与持久化内核：AI 推理的零启动开销革命

深入解析CUDA Graph与Persistent Kernel技术如何消除AI推理中的GPU启动开销。涵盖动态形状处理、GPU Direct RDMA集成、生产级调度架构设计，以及A100上70%吞吐提升的实测数据。

推理部署 2026年10月06日 0 点赞 0 评论 48 浏览

FlashAttention Tiling 策略与在线 Softmax：从数学推导到 IO-Aware 工程实战

深入分析FlashAttention的Tiling策略与在线Softmax数学原理：从增量归约公式推导，到Forward/Backward Tiling设计、Tensor Core WGMMA编程适配、三级异步流水线，延伸至Flash-Decoding与Flash-Decoding 推理优化，并给出A100/H100实测性能对比与工程落地要点。

大语言模型 2026年10月06日 0 点赞 0 评论 40 浏览

LLM 推理服务生产化：从 POC 到高吞吐低延迟的系统工程实践

本文从 KV Cache 内存管理、Continuous Batching 调度、投机解码加速、模型量化策略四个维度，深入拆解 LLM 推理服务从实验室 Demo 走向千级 QPS 生产系统的工程实践。

推理部署 2026年10月06日 0 点赞 0 评论 33 浏览

io_uring深度实战：Linux异步IO革命与高并发性能优化全栈指南

Linux io_uring深度实战：从共享环形队列设计哲学，核心数据结构（SQE/CQE/io_ring_ctx），内核提交模式（SQPOLL/IOPOLL），到用户态HTTP静态文件服务器实战、性能基准测试与生产调优策略全栈解析

文件系统 2026年10月06日 0 点赞 0 评论 37 浏览

CUDA Tensor Memory Accelerator (TMA) 深度工程：Hopper 架构的异步张量搬运引擎

从硬件机制到 CuTe 编程模型，全方位拆解 NVIDIA Hopper 架构引入的 Tensor Memory Accelerator (TMA)。涵盖 cp.async.bulk、多维张量描述符、mbarrier 多级流水线同步，以及 TMA + WGMMA 协同实现 940+ TFLOPS 的工程实践。

GPU并行计算 2026年10月07日 0 点赞 0 评论 35 浏览

eBPF 与 io_uring 深度融合：构建高性能可编程 I/O 数据平面

深入解析 eBPF 与 io_uring 深度融合的架构设计、内核实现和生产级实战，涵盖 BPF_URING 完成事件拦截、SQ 操作型辅助函数、Map 与 Fixed Buffer 协同，以及自反馈可观测数据平面的完整工程路径。

eBPF入门 2026年10月07日 0 点赞 0 评论 32 浏览