Highway LSTM 学习笔记

Posted 苏皖静儿

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Highway LSTM 学习笔记相关的知识,希望对你有一定的参考价值。

Highway LSTM 学习笔记

zoerywzhou@gmail.com

http://www.cnblogs.com/swje/

作者:Zhouwan

 2016-4-5

 

声明


 

1)该Deep Learning的学习系列是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看参考文献。具体的版本声明也参考原文献。

2)本文仅供学术交流,非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分不小心侵犯了大家的利益,还望海涵,并联系博主删除。

3)本人才疏学浅,整理总结的时候难免出错,还望各位前辈不吝指正,谢谢。

请联系:zoerywzhou@163.com

 

本研究课题系本人本科毕业论文,具体学习计划见http://www.cnblogs.com/swje/p/5068069.html

最近一段时间在看Highway LSTM,记录一下自己的学习过程、学习用到的网址和笔记心得等,以便在日后想回顾的时候能随时查到,也希望能分享给大家,提供给同样处于deep learning学习起步阶段的朋友们一个入门的案例。

源文件及参考文献如下

Highway LSTM by Torch (LUA) https://github.com/yoonkim/lstm-char-cnn 

[High-way-lstm-1]High-way LSTM RNNS FOR Distant Speech Recognition.pdf   : 访问密码 510b

[High-way-lstm-2]Character-Aware Neural Language Models.pdf   :访问密码 510b

Highway Networks

high-lstm在语音识别中的应用:Highway Long Short-Term Memory RNNs for Distant Speech Recognition

 

学习体会

1、highway lstm的原理  

2、highway lstm的优势 

3、highway lstm与lstm的比较 

4、highway lstm的应用 

 

已完,不续……

 

以上是关于Highway LSTM 学习笔记的主要内容,如果未能解决你的问题,请参考以下文章

深度学习笔记:LSTM

机器学习笔记 :LSTM 变体 (conv-LSTMPeephole LSTM coupled LSTMconv-GRU)

Python时间序列LSTM预测系列学习笔记-BeijingPM2.5

IMPLEMENTING A GRU/LSTM RNN WITH PYTHON AND THEANO - 学习笔记

机器学习笔记:GRU

学习笔记TF036:实现Bidirectional LSTM Classifier