↓ Skip to main content

Gpu-Performance

2026

从 CS336 到 ML Infra：理解 Arithmetic Intensity、Accelerator Intensity，以及 Compute Bound / Memory Bound

Sep 3, 2026·6012 words·12 mins

Deep-Learning CS336 Arithmetic-Intensity Roofline Gpu-Performance Inference Ml-Infra

起因 # 这是 CS336 系列的又一篇。

从 FLOPs 到 Latency：GPU 推理性能到底由什么决定？

Aug 15, 2026·3335 words·7 mins

Deep-Learning Gpu-Performance FLOPS Roofline Inference CS336 Ml-Infra

起因 # 最近在做 CS336（Language Modeling from Scratch）的 resource accounting 作业，里面要求逐个列出 Transformer forward pass 中所有的 matmul，然后按 \(2MKN\) 计算 FLOPs。