pytorch基于cpu下的速度测试及cpu线程设置

Posted 2021-02-18 xdk1002

libtorch默认是将cpu性能全部耗光，cpu利用率达到95%，需要设置并行计算的线程数，设置函数是torch::set_num_threads(1);

python版本的torch.set_num_threads(1)

 

resnet50模型

cpu型号：I7 4770 3.6HZ 内存16G

pytorch 单线程cpu速度大概285ms  增加线程速度反而降低 两个线程300ms 4个线程350ms

            gpu 750ti  85ms

libtorch 单线程cpu速度大概230ms 增加一个线程速度大概175ms  4个线程130ms

 

 

参考文章：https://blog.csdn.net/jacke121/article/details/104347069