梯度下降算法VS正规方程算法

Posted 2022-01-05 zgl19991001

梯度下降算法的大家族：

①批量梯度下降：有N个样本，求梯度的时候就用了N个样本的梯度数据

　　优点：准确

　　缺点：速度慢

②随机梯度下降：和批量梯度下降算法原理相似，区别在于求梯度时没有用所有的N歌样本数据，而是仅仅选取1个来求梯度

　　优点：速度快

　　缺点：准去率地

③小批量梯度下降：批量梯度下降算法和随机梯度下降算法的折中，比如N=100，spark中使用此方法