详解矩阵求导法则

Posted 2022-08-26 herosunly

文章目录

• 1. 向量对标量求导
• • 1.1 kronecker(克罗内克尔)delta
  • 1.2 标量对向量求导
  • • 1.2.1 向量内积对向量的求导
    • 1.2.1 二次型的求导
• 2. 向量对向量求导
• • 2.1 矩阵与向量的乘积对向量求导
  • 2.2 Hessian矩阵

1. 向量对标量求导

  之所以将向量对标量求导和标量对向量求导放在一起，是因为它们本质上都利用了广播特性。咱们以向量对标量求导为例，会对标量进行广播操作。

∂ x i ∂