21天实战caffe

Posted 2020-10-06

convolutionLayer：卷积层实现

InnerProductLayer：全连接实现

 

CPR值

早发现就好了，论文都写完了又发现了。。

如果上层传过来的特征图是20*12*12，本层卷积层大小为50*5*5，本层输出50*8*8，那么单样本前向传播计算量为：

calculations（MAC）=5*5*8*8*20*50=1600 000MAC

参数数量：

params=50*5*5*20=25000

那么CPR：

CPR=calculations/params=1600 000/25000 = 64

卷积层的输出特征图尺寸越大，批量大小越大，那么CPR越大。

 

接下来看全连接层：

如果上层传过来的特征图为：50*4*4，本层500个神经元，那么

calculations = 4*4*50*500=400 000

params=400 000

CPR=1

当然，批量值变大，CPR也会变大。

 

由此，看出，全连接和卷积层有多么不同。