矩阵向量求导法则

Posted 搬砖小工053

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了矩阵向量求导法则相关的知识,希望对你有一定的参考价值。

矢量对元素求导

矢量对元素求导,相当于把矢量里的每一个元素对元素求导,结果的形式还是矢量的形式。

行向量对元素求导

列向量对元素求导

矩阵对元素求导



元素对矢量求导

元素对矢量求导,相当于元素和矢量里的每一个元素求一次导,结果的形式和矩阵的形式相同。

元素对行向量求导

元素对列向量求导

元素对矩阵求导


矢量对矢量求导

矢量对矢量的求导要采用逐层展开的方式。先将一个矢量看成一个元素,然后采用前面元素和矢量的运算法则。

行向量对列向量求导

列向量对行向量求导

行向量对行向量求导

列向量对列向量求导

这里后面就没有直接展开了。

矩阵对行向量求导


矩阵对列向量求导

行向量对矩阵求导

列向量对矩阵求导

矩阵对矩阵求导


开发者涨薪指南 48位大咖的思考法则、工作方式、逻辑体系

以上是关于矩阵向量求导法则的主要内容,如果未能解决你的问题,请参考以下文章

矩阵向量求导法则

矩阵向量求导法则

机器学习中的矩阵求导Jacobian矩阵和Hessian矩阵

一个数怎么能对一个向量求导

机器学习里的数学:矩阵求导Ⅱ

动手学深度学习v2学习笔记02:线性代数矩阵计算自动求导