CV第七课 正则化

Posted cheviszhang

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了CV第七课 正则化相关的知识,希望对你有一定的参考价值。

Regulazation

 

Dropout

  1. 在全连接层时使用,随机使一半的元素为0; 在卷积层时,随机使得一些通道(channel)的值为0

  2. 这是为了防止一些 features‘ co-adaption 比如可能学习到 特征组合  毛+爪子+胡须 ,dropout之后就需要用零散的特征来判断。

  3. Dropout 与 BN 都是通过引入一定的 随机性 或 noise 来达到 防止overfitting的效果

   所以一般只用BN就可以了,不用DropOut;但实际上,DropOut有参数p 调节,效果更好

以上是关于CV第七课 正则化的主要内容,如果未能解决你的问题,请参考以下文章

Coursera公开课笔记: 斯坦福大学机器学习第七课“正则化”

Python第七课----正则和日志分析

Linux学习第七课-文本处理工具及正则表达式

进阶第七课 Python模块之re

机器学习正则化(L1正则化L2正则化)

L1正则化和L2正则化