Simple Recurrent Unit，单循环单元
Posted jarvanwang
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Simple Recurrent Unit，单循环单元相关的知识，希望对你有一定的参考价值。
SRU（Simple Recurrent Unit），单循环单元
src/nnet/nnet-recurrent.h
使用Tanh作为非线性单元
SRU不保留内部状态
训练时，每个训练序列以零向量开始
可以用作‘以句为单位的‘训练以及多流训练
/search/odin/cdxie/sogou-kaldi-nnet-1/nnet3/nnet3-simple-recurrent-unit.h
该文件是Sogou对SRU的实现
具体是添加了一个组件：
<SRUStreams>
训练的神经网络被称为CLDNN
脚本支持平均随机梯度下降（ASGD，Asynchronous Stochastic Gradient Descent）
编写了一系列适用于SRU的工具：
- aslp-nnet-init
- aslp-nnet-info
- aslp-nnet-convert-to-standard
- standard-convert-to-aslp-nnet
aslp nnet是一种适用于移动设备的神经网络结构
以上是关于Simple Recurrent Unit，单循环单元的主要内容，如果未能解决你的问题，请参考以下文章
从零开始学习深度学习35. 门控循环神经网络之门控循环单元（gated recurrent unit，GRU）介绍Pytorch实现GRU并进行训练预测
PyTorch笔记 - GRU(Gated Recurrent Unit)
GRU(Gated Recurrent Unit) 更新过程推导及简单代码实现
PyTorch笔记 - GRU(Gated Recurrent Unit)网络结构