DeepLearning训练方法
Posted BlueOceans
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了DeepLearning训练方法相关的知识，希望对你有一定的参考价值。
1、BN层训练技巧
缩小输入尺寸，这样可以提高batchsize的大小，在BN层适应了该数据集后，固定住BN层参数，放大输入尺寸继续训练
2、语义分割中解决网络输出尺寸与原尺寸的gap方法（如 1/8 output）
（1）加入deconvolution层
（2）TuSimple采用的DUC方法
Understanding Convolution for Semantic Segmentation
以上是关于DeepLearning训练方法的主要内容，如果未能解决你的问题，请参考以下文章
DeepLearning tutorial机器学习算法在训练过程中保存参数
DeepLearning4j 实战——手写体数字识别GPU实现与性能比较