机器学习——神经网络

Posted 2020-11-20 wkslearner

神经网络基础概念

人工神经网络又叫神经网络，是借鉴了生物神经网络的工作原理形成的一种数学模型。神经网络是机器学习诸多算法中的一种，它既可以用来做有监督的任务，如分类、视觉识别等，也可以用作无监督的任务。同时它能够处理复杂的非线性问题，它的基本结构是神经元，如下图所示：

其中，x1、x2、x3代表输入，中间部分为神经元，而最后的hw,b(x)是神经元的输出。整个过程可以理解为输入——>处理——>输出。

由多个神经元组成的就是神经网络

如图所示：
这是一个4层结构的神经网络，layer1为输入层，layer4为输出层，layer2,layer4为隐藏层，即神经网络的结构由输入层，隐藏层，输出层构成。其中除了输入层以外，每一层的输入都是上一层的输出。

神经网络数学原理

单个神经元的数学构成很简单，包含两个部分权重和偏置，每个输入值进入神经元都会进行类似y=wx+b其中w为权重，b为偏置，x为输入值，y为单个输入值的结果，经过激活函数激活后输出结果为f(wx+b),其中f为激活函数。存在多个输入值使用激活函数的情况下输出值为f(w1x1+w2x2+...+wnxn+b)。

激活函数的作用

激活函数也成为映射函数，可以对计算结果进行非线性转换，从而提升神经网络的表达能力，从而能够处理线性不可分的问题，比如语音识别和图像识别等。常见的激活函数有sigmoid,tanh,relu...等。

激活函数之sigmoid

sigmoid的表达式为：

其图形为一个s型曲线，会将所有的输入结果映射到0-1之间，图形样式如下：

sigmoid常备用于处理二分类问题，比较典型的像逻辑回归就是使用sigmoid处理二分类问题。