神经网络和深度学习 笔记

Posted 2020-10-16

人工神经网络(ann) 模拟的是  生物神经网络(bnn)

ann 一般也叫 前馈型神经网络  ： 各神经元只接受前一级输入，并输出到下一级，无反馈     应该也有反馈型神经网络？？

ann一般使用bp(back-propagation 后向传播) 学习方法，来学习每一个神经元的 w参数和增强信号b，不断迭代，有监督学习，使得期望输出和实际输出差距越来越小

n层神经网络，一般包含n-1个隐层，一般说第几层，就是第几个隐层

输入层和最终的一个输出神经元    +   n-1个中间隐层  = n层神经网络

感知机就是一个神经元

两层神经网络就可以模拟   异或XOR  这种非线性逻辑运算

每个神经元包含：

　　信号函数：s =   P1W1 + 。。。PnWn + b

　　　　对于输入P1-Pn  有对应的W1-Wn，以及一个增强信号b

　　传递函数：f(s)   有很多种，阶梯函数，符号函数，线性函数 等等