深度学习5-4-9模型

Posted 2021-02-01 cekong

引用：https://yq.aliyun.com/articles/603116

5步法：

• 构造网络模型
• 编译模型
• 训练模型
• 评估模型
• 使用模型进行预测

4种基本元素：

• 网络结构：由9种基本层结构和其他层结构组成
  
• 激活函数：如relu, softmax。口诀: 最后输出用softmax，其余基本都用relu
  
• 损失函数：categorical_crossentropy多分类对数损失，binary_crossentropy对数损失，mean_squared_error平均方差损失，mean_absolute_error平均绝对值损失
  
• 优化器：如SGD随机梯度下降, RMSProp, Adagrad, Adam, Adadelta等

9种基本层网络结构：

3种主模型：

• 全连接层Dense，
• 卷积层conv1d、conv2d，
• 循环层lstm，gru

3种辅助层：

• Activation层，
• Dropout层，
• 池化层

3种异构网络互联层：

• 嵌入层：用于第一层，输入数据到其他网络的转换
• Flatten层：用于卷积层到全连接层之间的过渡
• Permute层：用于RNN与CNN之间的接口

引用：https://yq.aliyun.com/articles/603116