pytorch训练模型的一些坑

Posted 2020-11-16 haiyang21

1. 图像读取

opencv的python和c++读取的图像结果不一致，是因为python和c++采用的opencv版本不一样，从而使用的解码库不同，导致读取的结果不同。

详细内容参考：https://www.cnblogs.com/haiyang21/p/11655404.html

2. 图像变换

PIL和pytorch的图像resize操作，与opencv的resize结果不一样，这样会导致训练采用PIL，预测时采用opencv，结果差别很大，尤其是在检测和分割任务中比较明显。

3. 数值计算

pytorch的torch.exp与c++的exp计算，10e-6的数值时候会有10e-3的误差，对于高精度计算需要特别注意，比如

两个输入5.601597， 5.601601， 经过exp计算后变成270.85862343143174， 270.85970686809225