深度学习与图神经网络核心技术实践应用高级研修班-Day2循环神经网络（RNN）

Posted 2021-09-07 ZSYL

RNN循环神经网络

• 1. RNN循环神经网络
• • 1.1 循环神经网络（RNN）——网络结构
  • 1.2 反向传播算法——链式法则
  • 1.3 反向传播算法——参数更新
  • 1.4 随时间反向传播（BPTT）
• 2. RNN循环神经网络改进
• • 2.1 长短期记忆网络(LSTM)——网络结构
  • 2.2 长短期记忆网络(LSTM)——门控机制
  • 2.3 长短期记忆网络(LSTM)——细胞单元
  • 2.4 LSTM变体（GRU）
  • 2.5 双向循环神经网络（Bi-RNN）

1. RNN循环神经网络

1.1 循环神经网络（RNN）——网络结构

1.2 反向传播算法——链式法则

1.3 反向传播算法——参数更新

1.4 随时间反向传播（BPTT）

2. RNN循环神经网络改进

2.1 长短期记忆网络(LSTM)——网络结构

2.2 长短期记忆网络(LSTM)——门控机制

2.3 长短期记忆网络(LSTM)——细胞单元

2.4 LSTM变体（GRU）

2.5 双向循环神经网络（Bi-RNN）

加油!

感谢!

努力!