CS231n-反向传播算法BP

Posted elitphil

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了CS231n-反向传播算法BP相关的知识,希望对你有一定的参考价值。

原博客:https://blog.csdn.net/huplion/article/details/79069365

(在此仅作学习记录作用)

一、前言

在前几篇文章中,我们学习到如何在训练集上设置权重,并由此计算出损失(loss),其中loss是有两部分组成,分别是数据损失项和正则化项目。我们最终想要得到损失函数关于权重矩阵w的梯度表达式,然后进行优化(这句话点明了发现传播和训练的作用。我们采用梯度下降算法,进行迭代运算,计算梯度进行权重的更新,并一直循环执行这个操作。最后会停留在一个损失函数的低值点,我们得到的这个低值点,我们得到的这个低值点就等价于对基于训练集的分数结果进行良好的预测。

以上是关于CS231n-反向传播算法BP的主要内容,如果未能解决你的问题,请参考以下文章

反向传播算法

cs231n 误差反向传播

读懂反向传播算法(bp算法)

如何理解CNN神经网络里的反向传播backpropagation,bp算法

如何理解神经网络里面的反向传播算法

读懂反向传播算法(bp算法)