牛顿法

Posted 2021-02-28 ustc-zcc

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了牛顿法相关的知识，希望对你有一定的参考价值。

技术图片

$H_{k}$

当特征特别多的时候，求海森矩阵的逆矩阵，运算量是非常大且慢，考虑用一个n阶矩阵来替代，这就是拟牛顿法的基本思路

以上是关于牛顿法的主要内容，如果未能解决你的问题，请参考以下文章

A-03 牛顿法和拟牛顿法

常见的几种最优化方法（梯度下降法牛顿法拟牛顿法共轭梯度法等）

GBDT与xgb区别，以及梯度下降法和牛顿法的数学推导

牛顿法与拟牛顿法的区别与联系

第十一章拟牛顿法

牛顿法、拟牛顿法