神经网络简介

Posted sccq

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了神经网络简介相关的知识,希望对你有一定的参考价值。

网络结构

输入层、隐含层(多层)、输出层

技术图片

 单个神经元结构,g(z)为激励函数,线性组合,非线性处理

技术图片

逻辑回归

正向传播预测结果,反向传播调整w和b

技术图片

激励函数

作用:提供规模化的非线性化能力

常用:

技术图片

损失函数

单次训练损失:

技术图片

 全部训练损失:

技术图片

梯度下降

技术图片

逻辑回归梯度下降

技术图片

 同步更新

网络向量化

技术图片

技术图片

技术图片

技术图片

网络梯度下降(反向传播调参)

技术图片

训练过程

技术图片

以上是关于神经网络简介的主要内容,如果未能解决你的问题,请参考以下文章

直播预告 | 图神经网络简介(上)

深度学习简介——卷积神经网络

神经网络简介

2. PyTorch简介:使用PyTorch训练第一个神经网络

5.1 卷积神经网络简介

神经网络简介练习册