Dropout 丢弃法 动手学深度学习v2 pytorch

Posted AI架构师易筋

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Dropout 丢弃法 动手学深度学习v2 pytorch相关的知识,希望对你有一定的参考价值。

1. Dropout 丢弃法 定义

Dropout 只有在Traning的时候用,因为dropout类似于正则的作用。
常用在多层感知机的隐藏层上。
在predict的时候,是不需要的,因为predict是一个稳定的结果。


2. Dropout 从零开始实现

矩阵做乘法,效率高



2. 简洁实现 pytorch


参考

https://www.bilibili.com/video/BV1Y5411c7aY?p=1

以上是关于Dropout 丢弃法 动手学深度学习v2 pytorch的主要内容,如果未能解决你的问题,请参考以下文章

深度学习入门基础CNN系列——批归一化(Batch Normalization)和丢弃法(dropout)

动手学深度学习 v2

动手学深度学习 v2 PDF版本

3.1 线性回归 解析解动手学深度学习 v2

3.1 线性回归 解析解动手学深度学习 v2

BERT预训练 动手学深度学习v2