学习----梯度知识

Posted liuguangshou123

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了学习----梯度知识相关的知识,希望对你有一定的参考价值。

内容来自CSDN--作者为zsffuture

什么是梯度?

以二元函数为例,如果一个函数为f(x,y),某点(x0,y0)的梯度为:

技术图片

 

由定义可以看出,梯度为一个向量。

 

泰勒级数

技术图片

当x为标量时,根据泰勒公式,可知如果该点如果是极值点,则导数一定为0:

技术图片

当x为向量时,根据泰勒公式,

技术图片

技术图片

 

以上是关于学习----梯度知识的主要内容,如果未能解决你的问题,请参考以下文章

机器学习知识点04-梯度下降算法

1_深度学习知识点

神经网络基础知识

什么是梯度下降优化算法?

梯度下降算法的原理是啥?

(转)统计学习-2 感知机知识准备(模型类型超平面与梯度下降法)