从 CS336 到 ML Infra：理解 Arithmetic Intensity、Accelerator Intensity，以及 Compute Bound / Memory Bound2026-09-03·6012 字·12 分钟Deep-Learning CS336 Arithmetic-Intensity Roofline Gpu-Performance Inference Ml-Infra起因 # 这是 CS336 系列的又一篇。
从 FLOPs 到 Latency：GPU 推理性能到底由什么决定？2026-08-15·3335 字·7 分钟Deep-Learning Gpu-Performance FLOPS Roofline Inference CS336 Ml-Infra起因 # 最近在做 CS336（Language Modeling from Scratch）的 resource accounting 作业，里面要求逐个列出 Transformer forward pass 中所有的 matmul，然后按 \(2MKN\) 计算 FLOPs。
