GPU

PyTorch 2.0 Compiler 深度剖析:从 TorchDynamo FX Graph 到 TorchInductor Triton CodeGen 的完全工程指南

PyTorch 2.0 Compiler 深度剖析:从 TorchDynamo Python 字节码拦截、FX Graph 中间表示捕获、AOTAutograd 自动微分分解、TorchInductor Triton CodeGen GPU 内核代码生成、算子融合与内存优化、CUDA Graph 捕获、动态形状支持、分布式并行编译、到生产级部署与性能基准测试的完整工程指南。

ONNX Runtime 推理引擎深度工程实战:从图优化、算子融合到执行提供器与内存规划的全链路解析

沿 ONNX Runtime 的真实执行链路拆解推理引擎内核:Session 初始化时的 Graph Transformer 图改写与三级优化、算子融合收益的真实来源、执行提供器如何做图分区以及跨 EP 拷贝的代价、静态内存规划如何用生命周期区间复用显存、IOBinding 零拷贝的适用边界,并给出生产落地清单与常见故障模式。