WebGPU Subgroup 操作与 SIMT 性能优化实战:从 shuffle 到 ballot WebGPU 的 subgroup 原语为 Web 平台带来了 GPU 级别的 SIMD 通信能力。 工程实践 2026年10月03日 0 点赞 0 评论 115 浏览
WebGPU图形计算深度实践:从入门到性能优化 WebGPU是现代Web平台的新一代图形API,它提供了对GPU硬件的更底层访问能力。相比WebGL,WebGPU不仅支持更现代的图形特性,还引入了计算着色器(Compute Shader),使得在浏览器中进行通用GPU计算成为可能。 编程开发 2026年11月08日 0 点赞 0 评论 14 浏览
Pallas GPU 内核编程:XLA 编译器 + Hopper TMA 异步拷贝的 SMEM 流水线深度实战 Pallas 是 JAX/XLA 生态中用于编写高性能自定义 GPU 的底层编程模型,它通过 pallas_call 入口和 AsyncCopy 原语,让开发者既能利用 XLA 编译器的全局优化能力,又能精细控制 Hopper 架构的 Tensor Memory Accelerator (TMA) 硬件单元。 Prompt工程 2026年10月07日 0 点赞 0 评论 84 浏览
FlashAttention Tiling 策略与在线 Softmax:从数学推导到 IO-Aware 工程实战 深入分析FlashAttention的Tiling策略与在线Softmax数学原理:从增量归约公式推导,到Forward/Backward Tiling设计、Tensor Core WGMMA编程适配、三级异步流水线,延伸至Flash-Decoding与Flash-Decoding 推理优化 大语言模型 2026年10月06日 0 点赞 0 评论 83 浏览
多面体编译模型深度工程实战:从依赖多面体、仿射调度到 Tiling 与 GPU 代码生成的全链路解析 沿真实工程链路拆解多面体编译:迭代域与访问函数的仿射表示、依赖分析从 GCD/Banerjee 到 Farkas+ILP 的精确化路径、Feautrier/PLuTo 仿射调度搜索、Tiling 与 isl AST 代码生成,以及在 Polly、PPCG 编译原理 2026年10月06日 0 点赞 0 评论 113 浏览
Inside JAX:XLA 编译器如何将 Python 函数编译为 GPU PTX 代码 深入拆解 JAX/XLA 核心编译机制:Tracing 编译模型、HLO 中间表示、算子融合、自动并行化(GSPMD)、自定义VJP与性能调优实战 编译原理 2026年10月05日 0 点赞 0 评论 77 浏览
LLM 推理确定性工程深度实战:从浮点非结合性、Batch 不变性到可复现 Kernel 的全链路解法 拆解 LLM 推理不确定性的三个根因——浮点加法非结合性、split-k 与浮点 atomicAdd 的非确定累积、Continuous Batching 导致的 batch invariance 破缺 Linux内核 2026年10月04日 0 点赞 0 评论 119 浏览
JAX/XLA 编译器基础设施深度解析:从 Python 函数到分布式 GPU 代码的编译之旅 深入拆解 JAX 的编译流水线,从 trace 机制到 HLO 优化、从自动微分规则推导到 GSPMD 分区器,揭示这套系统如何将 Python 代码转化为跨数百个 TPU/GPU 运行的高性能计算图。 编译原理 2026年10月04日 0 点赞 0 评论 112 浏览
CUDA Unified Memory 深度工程:虚拟内存管理、页面迁移与 OOM 治理实战 深入剖析CUDA Unified Memory的内部机制、页面迁移策略、VMM虚拟内存管理API以及生产环境中的OOM治理方案。涵盖从CUDA 6到CUDA 12的内存模型演进、GPU缺页中断、cuMemAdvise/cuMemPrefetchAsync优化、Split Migration以及自研显存管理器的实战代码。 内存管理 2026年10月03日 0 点赞 0 评论 158 浏览
WebGPU 下一代 GPU 编程接口深度实战:从 WGSL 着色器语言到计算管线、并行图像处理与生产级 Web 端 ML 推理部署的完全工程指南 WebGPU 作为 WebGL 的下一代替代标准,引入了现代 GPU 编程范式的全部能力:显式资源管理、计算着色器、Bindless 资源模型、显式同步与零开销抽象。 图像设计 2026年09月20日 0 点赞 0 评论 167 浏览