序列到序列学习 seq2seq 束搜索 beam search 动手学深度学习v2

Posted AI架构师易筋

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了序列到序列学习 seq2seq 束搜索 beam search 动手学深度学习v2相关的知识,希望对你有一定的参考价值。

1. 序列到序列学习 seq2seq







2. 代码实现

















3. 束搜索 beam search






4. Q&A

    1. 现在seq2seq 都用transformer了。但是过段时间, 有可能又会发现可能RNN/LSTM会更好。深度神经网络是一波又一波的。

参考

https://www.bilibili.com/video/BV16g411L7FG?p=1

以上是关于序列到序列学习 seq2seq 束搜索 beam search 动手学深度学习v2的主要内容,如果未能解决你的问题,请参考以下文章

机器学习(ML)十二之编码解码器束搜索与注意力机制

吴恩达深度学习 第五课 第三周 序列模型和注意力机制

Seq2Seq使用神经网络进行序列到序列学习

Beam Search(集束搜索/束搜索/定向搜索)

学习笔记CB014:TensorFlow seq2seq模型步步进阶

beam search