Seq2Seq
Posted 弥漫的幻雪的博客
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Seq2Seq相关的知识,希望对你有一定的参考价值。
一、背景
序列问题经常存在输入与输出个数不同的问题,例如在机器翻译里面,一句话的汉语词数和英语词数并不是相同的
二、结构
将存储了整个输入序列信息的最后h,去决定输出序列中的每个元素。
相当于将输入序列先编码为最后的h,再解码为输出序列
由于这种Encoder-Decoder结构不限制输入和输出的序列长度,因此应用的范围非常广泛,比如:
- 机器翻译。Encoder-Decoder的最经典应用,事实上这一结构就是在机器翻译领域最先提出的
- 文本摘要。输入是一段文本序列,输出是这段文本序列的摘要序列。
- 阅读理解。将输入的文章和问题分别编码,再对其进行解码得到问题的答案。
- 语音识别。输入是语音信号序列,输出是文字序列。
三、缺点
因为中间编码得到的结果c,需要包含句子所有的信息,当句子比较长的时候,会不太好
以上是关于Seq2Seq的主要内容,如果未能解决你的问题,请参考以下文章