Seq2Seq

Posted 弥漫的幻雪的博客

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Seq2Seq相关的知识,希望对你有一定的参考价值。

一、背景

序列问题经常存在输入与输出个数不同的问题,例如在机器翻译里面,一句话的汉语词数和英语词数并不是相同的

二、结构

将存储了整个输入序列信息的最后h,去决定输出序列中的每个元素。

相当于将输入序列先编码为最后的h,再解码为输出序列

由于这种Encoder-Decoder结构不限制输入和输出的序列长度,因此应用的范围非常广泛,比如:

  • 机器翻译。Encoder-Decoder的最经典应用,事实上这一结构就是在机器翻译领域最先提出的
  • 文本摘要。输入是一段文本序列,输出是这段文本序列的摘要序列。
  • 阅读理解。将输入的文章和问题分别编码,再对其进行解码得到问题的答案。
  • 语音识别。输入是语音信号序列,输出是文字序列。

 三、缺点

因为中间编码得到的结果c,需要包含句子所有的信息,当句子比较长的时候,会不太好

以上是关于Seq2Seq的主要内容,如果未能解决你的问题,请参考以下文章

对seq2seq的粗浅认识

seq2seq 入门

多标签文本分类代码详解Seq2Seq模型

文本生成seq2seq框架

文本生成seq2seq框架

闲聊机器人seq2seq模型的原理