机器学习:一步步教你理解反向传播方法

Posted cathy_mu

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习:一步步教你理解反向传播方法相关的知识,希望对你有一定的参考价值。

http://www.360doc.com/content/17/0209/17/10724725_627833018.shtml

数学完全看不懂

看到了这篇通过示例给出反向传播的博文A Step by Step Backpropagation Example

在这篇博文中,我们会使用有2个输入单元的神经网络,2个隐层神经元以及2个输出神经元。此外,隐层和输出神经元会包含一个偏置,下面是基本的网络结构:

技术分享

为了便于后面说明的说明,我们对该网络设置一些初始的权重、偏置以及输入和输出:

技术分享

反向传播的目标是对权重进行优化,使得神经网络能够学习到从任意的输入到输出的准确映射。

在这篇博文中,我们仅使用一个简单的训练集,即输入为0.05和0.10,我们希望网络的输出为0.01和0.99(即输入的样本是两个: (0.05, 0.99), (0.10, 0.99))。

以上是关于机器学习:一步步教你理解反向传播方法的主要内容,如果未能解决你的问题,请参考以下文章

手推机器学习 吴恩达 神经网络BP反向传播矩阵推导(上篇)

机器学习:无监督反向传播

吴恩达-coursera-机器学习-week5

机器学习笔记:反向传播

ng机器学习视频笔记 ——神经网络的代价函数反向传播梯度检验随机初始化

[机器学习] UFLDL笔记 - 反向传播算法(Backpropagation)