R使用LSTM模型构建深度学习文本分类模型（Quora Insincere Questions Classification）

Posted 2021-09-02 Data+Science+Insight

R使用LSTM模型构建深度学习文本分类模型（Quora Insincere Questions Classification）

Long Short Term 网络—— 一般就叫做 LSTM ——是一种 RNN 特殊的类型，可以学习长期依赖信息。LSTM 由Hochreiter & Schmidhuber (1997)提出，并在近期被Alex Graves进行了改良和推广。在很多问题，LSTM 都取得相当巨大的成功，并得到了广泛的使用。

LSTM 通过刻意的设计来避免长期依赖问题。记住长期的信息在实践中是 LSTM 的默认行为，而非需要付出很大代价才能获得的能力！

所有 RNN 都具有一种重复神经网络模块的链式的形式。在标准的 RNN 中，这个重复的模块只有一个非常简单的结构，例如一个 tanh 层。

LSTM 同样是这样的结构，但是重复的模块拥有一个不同的结构。不同于 单一神经网络层，这里是有四个，以一种非常特殊的方式进行交互。

Quora不真诚问题分类是Quora主办的第二次kaggle竞赛，目的是开发更可扩展的方法来检测他们平台上的有害的、具有歧视性的和具有误导性的提问内容。