机器学习之GPU运算性能和CPU性能对比

Posted 2022-01-13 小黄瓜要编程

在机器学习之Win10 64位下安装Cuda+Cudnn文中，我们已经简单的阐述了一下gpu在机器学习中性能好于cpu，但是到底有多大的差距呢？刚开始的同学没有一个直观的认识（主要是我自己也没有直观的认识），在此记录一下吧。
我们采用同样的一个简单的基于VGG16的图像分类代码来对比一下，如果有误导或者理解不到位的地方，恳请指正，谢谢！服务器虽然有点旧，但是还是可以看出问题的！
图像分三类，每一类图像3800张左右，batch_size均为25

---

CPU服务器一

---

• 服务器配置
  
  选取epoch5-15查看计算用时
  

CPU服务器二

---

• 服务器配置
  

选取epoch5-15查看计算用时

GPU计算机一

---

• 服务器配置
  
  显卡规格
  

选取epoch5-15查看计算用时

在用gpu进行计算的时候，观察cpu也有40%左右的占用率，不是说好用gpu计算的吗？应该是cpu也进行了一些TensorFlow其他的计算吧。

-后记 还有一个GT730的卡，辛辛苦苦花了很多时间装好了环境，一运行居然告诉我算力只有3.5，cuda最低要求为3.7，新手同学可以查询一下显卡算力免得浪费功夫装很久环境！Cuda compute capability 3.5. The minimum required Cuda capability is 3.7。