PyTorch非确定性辍学
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了PyTorch非确定性辍学相关的知识,希望对你有一定的参考价值。
[我正在尝试使BLSTM的输出具有确定性,在调查了我的辍学层似乎没有创建确定性的辍学蒙版之后,我正在研究如何在pytorch
中修复随机种子。我发现了this page和其他建议,尽管我将所有内容都放入了代码中并没有帮助。这是我的代码:
import sys
import random
import datetime as dt
import numpy as np
import torch
torch.manual_seed(42)
torch.cuda.manual_seed(42)
np.random.seed(42)
random.seed(42)
torch.backends.cudnn.deterministic = True
ex = torch.ones(10)
torch.nn.functional.dropout(ex, p=0.5, training=True)
# Out[29]: tensor([0., 0., 2., 0., 0., 0., 0., 0., 2., 2.])
torch.nn.functional.dropout(ex, p=0.5, training=True)
# Out[30]: tensor([0., 2., 0., 2., 2., 0., 0., 2., 2., 2.])
请帮助我从相同输入的辍学对象获得确定的输出
答案
None以上是关于PyTorch非确定性辍学的主要内容,如果未能解决你的问题,请参考以下文章
如何在 Pytorch 中实现 dropout,以及在哪里应用它