Tensorflow-Onnx-Tensorrt的准确度下降

Question

我有一个tensorflow训练模型，并在tensorflow测试，精度达到95%。

Tensorflow模型被转换为ONNX并转换为TensorRT。TensorRT引擎以16位精度运行.在TensorRT中，准确率下降到75%。即使使用kTF32，准确率仍为75%。测试相同的图像为两个测试和相同的输入大小。

我该从哪里看这个精度下降的地方？唯一的区别是我在TensorRT中进行批处理推理，而不是在Tensorflow中。

对于Tensorflow和TensorRT，使用OpenCV读取图像。

从Tensorflow到ONNX的转换精度会下降吗？

Answer 1

现在我发现了这个问题。Tensorflow通过乘以1/255.0对输入图像进行归一化处理。但在张力归一化，它是1-x/255.0。这就是问题所在。现在我也有了同样的准确性。