从 IEEE 754 到 BF16：理解 ML Infra 中的浮点精度选择2026-08-19·6632 字·14 分钟Deep-Learning Floating-Point BF16 FP16 TF32 Inference Ml-Infra起因 # 上一篇讨论模型显存时，我直接用了一张表： dtype bytes / param FP32 4 FP16 / BF16 2 INT8 ~1 当时关注的是 peak memory model，所以这张表只是作为 parameter memory 的输入，没有展开。
