从 FLOPs 到 Latency：GPU 推理性能到底由什么决定？Aug 23, 2026·8 minsDeep-Learning Gpu-Performance Flops Roofline Inference起因 # 最近在做 CS336（Language Modeling from Scratch）的 resource accounting 作业，里面要求逐个列出 Transformer forward pass 中所有的 matmul，然后按 \(2MKN\) 计算 FLOPs。