RuntimeError: cudnn RNN backward can only be called in training mode
Posted 沉迷单车的追风少年
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了RuntimeError: cudnn RNN backward can only be called in training mode相关的知识，希望对你有一定的参考价值。
问题描述：
RuntimeError: cudnn RNN backward can only be called in training mode
问题分析：
原因是反向传播的时候不能是非train状态。
我的代码里面在反向传播之前加了个Alexnet，Alexnet计算loss后会自己反向传播，此时在整体LSTM反向传播的时候就会出现这个非train状态的问题。
解决：
百度一下：
第一页的方法我都试过，全都没有用。。。
彻底解决：
在开始训练之前加上：
torch.backends.cudnn.enabled=False即可彻底解决！！！
以上是关于RuntimeError: cudnn RNN backward can only be called in training mode的主要内容，如果未能解决你的问题，请参考以下文章