从 FLOPs 到 Latency：GPU 推理性能到底由什么决定？Aug 15, 2026·3335 words·7 minsDeep-Learning Gpu-Performance FLOPS Roofline Inference CS336 Ml-Infra起因 # 最近在做 CS336（Language Modeling from Scratch）的 resource accounting 作业，里面要求逐个列出 Transformer forward pass 中所有的 matmul，然后按 \(2MKN\) 计算 FLOPs。