Rust

Rust + CUDA IPC:多 GPU 间零拷贝张量通信工程实战

大规模 AI 模型训练与推理离不开多 GPU 协作。本文深入讲解 CUDA IPC 机制如何实现在同一节点内多 GPU 间零拷贝张量传递,并通过 Rust FFI 绑定给出完整工程实现,覆盖内存共享模型、事件同步、NVLink 拓扑感知、错误处理与 NCCL 集成。

Rust 异步运行时深度实战:从 Tokio 调度器到 io_uring 零拷贝 IO 的完全工程指南

Rust 异步运行时深度实战:从 Tokio 调度器到 io_uring 零拷贝 IO 的完全工程指南——涵盖 Future trait 与 Poll 模型、多线程工作窃取调度器、epoll/io_uring 异步 IO 驱动、Pin/Unpin 内存安全保障、CancellationToken 任务取消、异步同步原语与通道设计、生产级性能调优 Check