深度学习中网络设计的几点经验
Posted demo-deng
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了深度学习中网络设计的几点经验相关的知识，希望对你有一定的参考价值。
1.CNN网络中的池化方式选择
池化方式有两种：1）最大池化；2）平均池化
在实验中我发现，最大池化要比平均池化慢很多，效果也不如平均池化好。所以，池化的方式我们尽量选择平均池化。
2.CNN卷积核的设计
卷积的大小，遵守奇数设计原则，如【1,3,5,7】
3.CNN和RNN网络输出到全连接层数据shape的确定
两个网络最终都要接一个全连接，你一定要保证输入全连接网络的shape是二维的，即（？，网络最终抽取特征的维数），“？”表示是batch的大小，后面是维数。
这样无论你接下来如何处理，如两个网络的特征拼接，还是能够保持相同的shape，那么直接输入到全连接层就可以了。
待续
以上是关于深度学习中网络设计的几点经验的主要内容，如果未能解决你的问题，请参考以下文章