PyTorch 1.0 中文文档:torch.nn.init

Posted wizardforcel

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了PyTorch 1.0 中文文档:torch.nn.init相关的知识,希望对你有一定的参考价值。

译者:GeneZC

torch.nn.init.calculate_gain(nonlinearity, param=None)

返回给定非线性函数的推荐的增益值。对应关系如下表:

非线性函数 增益
Linear / Identity
Conv{1,2,3}D
Sigmoid
Tanh
ReLU
Leaky Relu

参数:

  • nonlinearity – 非线性函数 (nn.functional 中的名字)
  • param – 对应非线性函数的可选参数

例子

>>> gain = nn.init.calculate_gain(‘leaky_relu‘)
torch.nn.init.uniform_(tensor, a=0, b=1)

用均匀分布 初始化输入 Tensor

阅读全文/改进本文

以上是关于PyTorch 1.0 中文文档:torch.nn.init的主要内容,如果未能解决你的问题,请参考以下文章

pytorch 笔记:torch.nn.Linear() VS torch.nn.function.linear()

了解 torch.nn.Parameter

pytorch 中的 torch.nn.gru 函数的输入是啥?

pytorch中的顺序容器——torch.nn.Sequential

[深度学习] Pytorch学习—— torch.nn 实践:训练分类器(含多GPU训练CPU加载预测的使用方法)

pytorch笔记:torch.nn.functional.pad