VGG网络与LeNet5网络的对比分析
Posted 算法与编程之美
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了VGG网络与LeNet5网络的对比分析相关的知识,希望对你有一定的参考价值。
问题
VGG卷积网络相对于LeNet5卷积网络来说卷积核尺寸:LeNet卷积核大小均为5*5,而VGG是只用了3*3的卷积核,步长为1。下采样:LeNet中是2*2的均值池化,再乘以一个可学习的参数, VGG为2*2,步长为2。padding: LeNet 模型中没有使用补边,但是输入的图片(32*32)是比数字所占像素(28*28)更大的。VGG都使用了padding(1或2)。激活函数:LeNet使用Sigmoid,VGG也是使用ReLU。
方法
分别使用VGG和LeNet5训练网络后对mnist数据集进行分类,观察不同点。
LeNet5
VGG
结语
两个网络的都是采用了五个周期,但是准确率的差别有一点大,对于LeNet5卷积神经网络来说,训练五个周期正确率只有20%,但是对与vgg卷积神经网络来说。正确率达到了98%,
对于两个之间的差别,我认为首先vgg卷积网络的卷积核更小,模型的非线性表达能力更好,其次,LeNet卷积神经网络接受的输入层大小为32*32*1,但是对于mnist数据集来说,每一张图片的大小是28*28*1,但是vgg训练五个周期的时间远远大于LeNet5,还存在内存不够用的情况。
以上是关于VGG网络与LeNet5网络的对比分析的主要内容,如果未能解决你的问题,请参考以下文章
LeNet5、AlexNet、VGG-16、GoogLeNet、ResNet50原理及其结构