次梯度和次微分

Posted picassooo

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了次梯度和次微分相关的知识,希望对你有一定的参考价值。

本文摘自张贤达的《矩阵分析与应用》第四章第5节

----------------------------------------------------------------------------------

技术图片

技术图片

技术图片

 

技术图片

技术图片

 

示例:

技术图片   技术图片 

上面左图的红线是函数$y=x^2$在点$x=0$的梯度方向,也是唯一的次梯度方向。上面右图的三条红线都是函数$y=|x|$在点$x=0$的次梯度方向。

 

以上是关于次梯度和次微分的主要内容,如果未能解决你的问题,请参考以下文章

回归|深度学习(李宏毅)

图像分析:边缘检测中的梯度算子

微积分——自动微分

《30天吃掉那只 TensorFlow2.0》 2-3 自动微分机制

3-导数(梯度/GradientTape)

梯度下降——寻找那个最优解