神经网络基础

Posted 2020-11-20 larry-xia

生物神经元细胞由细胞体、树突和轴突组成，其中树突用于接收信号输入，细胞体用于信息处理，轴突则将处理后的信号传递给下一个神经元。在大脑中，每个神经元大约与10^4个其他神经元相连接，神经元之间的连接是通过突触实现的。信号从一个神经元的轴突传递通过突触传递到另一个神经元时是正向传播，不允许逆向传播。

人工神经网络的可塑性表现在，其节点的连接权值都是可以调整的，它将一系列仅具有简单处理能力的节点通过权值相连，当权值调整到恰当值时，就能输出正确的结果。网络将知识存储在调整后的各权值中，这一点是神经网络的精髓。

神经网络的特点

• 自学习和自适应性
• 非线性性。人工神经元处于激活或者抑制状态，表现为数学上的非线性关系。
• 鲁棒性和容错性。神经网络具有信息存储的分布性，局部的损害会使人工神经网络的运行适度减弱，但不会产生灾难性的后果。
• 计算的并行性和存储的并行性。每个神经元都可以根据接收到的信息进行独立运算和处理，同一层的不同神经元可以同时进行运算。
• 分布式存储。

神经网络根据结构的不同，可以分为前向网络和反馈网络。在前向网络中，数据只从输入层经过隐含层流向输出层，而反馈网络的输出值又回到输入层，在整个网络中循环流动，直到达到稳定的状态。根据学习方式的不同，可分为有监督学习网络和无监督学习网络。