111qqz的小窝

老年咸鱼冲锋!

tensorrt INT8 量化debug记录(cuda error 700)

背景是要把某个caffe model,转换成tensorrt的INT8 模型。 然后遇到如下报错: E0403 08:54:35.951987 5704 engine.h:62] engine.cpp (572) - Cuda Error in commonEmitTensor: 1 (invalid argument) E0403 08:54:35.952157 5704 engine.h:62] Failure while trying to emit debug

tensorRT 模型兼容性说明

名词说明 CUDA. 一般来说指的是CUDA SDK. 目前经常使用的是CUDA 8.0和CUDA 10.1两个版本. 8.0和10.1都是SDK的版本号. CUDNN. The NVIDIA CUD