从 AMP 到 Mixed Precision：训练和推理为什么不使用同一种精度Aug 23, 2026·13 minsDeep-Learning Mixed-Precision Amp Quantization Bf16 Inference起因 # 以前在商汤做 CV 的时候，有一段时间在做目标检测模型的 INT8 量化。目标很直接：降低 inference latency，减少 model memory 和 bandwidth，同时利用 INT8 hardware throughput。