PyTorch非确定性辍学

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了PyTorch非确定性辍学相关的知识,希望对你有一定的参考价值。

[我正在尝试使BLSTM的输出具有确定性,在调查了我的辍学层似乎没有创建确定性的辍学蒙版之后,我正在研究如何在pytorch中修复随机种子。我发现了this page和其他建议,尽管我将所有内容都放入了代码中并没有帮助。这是我的代码:

import sys 
import random 
import datetime as dt 

import numpy as np 
import torch 

torch.manual_seed(42) 
torch.cuda.manual_seed(42) 
np.random.seed(42)
random.seed(42) 
torch.backends.cudnn.deterministic = True  

ex = torch.ones(10) 
torch.nn.functional.dropout(ex, p=0.5, training=True)                  
# Out[29]: tensor([0., 0., 2., 0., 0., 0., 0., 0., 2., 2.])

torch.nn.functional.dropout(ex, p=0.5, training=True)                  
# Out[30]: tensor([0., 2., 0., 2., 2., 0., 0., 2., 2., 2.])

请帮助我从相同输入的辍学对象获得确定的输出

答案
None

以上是关于PyTorch非确定性辍学的主要内容,如果未能解决你的问题,请参考以下文章

PyTorch - 如何在评估模式下停用辍学

如何在 Pytorch 中实现 dropout,以及在哪里应用它

渣硕小厂3年测试开发,十八年寒窗混得不如初中辍学同学?

2DWT:2维离散小波变换(附Pytorch代码)

justjavac:从辍学到成为Deno核心代码贡献者,我的十年编程生涯

justjavac:从辍学到成为Deno核心代码贡献者,我的十年编程生涯