梯度下降深入浅出

Posted zsychanpin

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了梯度下降深入浅出相关的知识,希望对你有一定的参考价值。


查看原文请点这里

在看Ng的ml课程,第二课中讲的是梯度下降算法。所以把与梯度下降算法有关的数学知识复习整理了一下便于自己理解。相信在不断的深入学习中对gradient descent将会有更深更全面的了解,到时候我将不断补充本篇文章。

文件夹

  1. 微分
  2. 导数
  3. 方向导数
  4. 梯度
  5. 梯度下降算法
  6. 梯度下降算法的应用

数学公式显示不出来。有要看的到我的博客去看吧。

http://binhua.info/machinelearning/%E6%A2%AF%E5%BA%A6%E4%B8%8B%E9%99%8D%E6%B7%B1%E5%85%A5%E6%B5%85%E5%87%BA#

以上是关于梯度下降深入浅出的主要内容,如果未能解决你的问题,请参考以下文章

深入分析:近端梯度下降法交替方向乘子法牛顿法

梯度下降入门

深入梯度下降(Gradient Descent)算法

梯度下降过拟合和归一化

随机梯度下降法的数学基础

LR的深入理解资料汇集