陈天琪新书：揭开Blackwell时代的GPU性能黑盒

文章来源：企鹅号 - AI可可AI生活

XGBoost作者、CMU教授陈天琪发布了开源新书《Modern GPU Programming For MLSys》。这本书直接瞄准NVIDIA最新的Blackwell架构，核心围绕GEMM和FlashAttention-4的性能极致优化展开。它引入了Python DSL工具TIRx，让开发者能在Python环境下进行接近底层的硬件控制，系统性地讲解了TMA异步数据传输、Tensor Core调度以及mbarriers异步协作等前沿技术。

现在的AI竞争已经从模型架构卷到了算子效率。当大部分工程师还在苦等框架更新算子库时，顶尖玩家已经在直接操控硬件底层的异步流水线了。这本书的价值在于把极其晦涩的GPU硬件原语，通过一套可运行的抽象逻辑讲透了。它不是在教你写简单的代码，而是在教你如何构建现代算力系统的物理直觉，这正是决定大模型推理成本和训练速度的深层命门。