CS224n笔记9 机器翻译和高级LSTM及GRU

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了CS224n笔记9 机器翻译和高级LSTM及GRU相关的知识,希望对你有一定的参考价值。

本文转自:http://www.hankcs.com/nlp/cs224n-mt-lstm-gru.html

技术分享

技术分享

技术分享

技术分享

技术分享

 

 

 技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

其中,带黑点的表示离散的向量表示,否则表示连续的向量空间。

3、使用深度RNN

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

LSTM单元结构如下:

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

那时候的NN模型还是仅限于重新排序传统MT模型产生的结果,而最新的研究就是完全甩开了MT模型:

 技术分享

技术分享

技术分享

技术分享

技术分享

 技术分享

技术分享

 技术分享

 

以上是关于CS224n笔记9 机器翻译和高级LSTM及GRU的主要内容,如果未能解决你的问题,请参考以下文章

机器学习笔记:GRU

CS224n笔记10 NMT与Attention

CS224n笔记8 RNN和语言模型

第二十一节,使用TensorFlow实现LSTM和GRU网络

CS224n笔记5 反向传播与项目指导

CS224n笔记6 句法分析