机器学习之——正规方程法

Posted 2020-12-25 gylhaut

1.梯度下降法

(1)需要选择学习率a

(2)需要多次迭代

优点：梯度下降法在特征变量很多的情况下也能运行地相当好

2.正规方程法

(1)不需要选择学习率a

(2)不需要迭代

(3) 正规方程法不需要做特征缩放

 缺点：当正规方程法的特征矩阵维度比较大时，会慢很多

总结：当n维比较小时，正规方程法比较好。

当n维比较大时，选择梯度下降法比较好。

什么时候n 算比较大。n>= 10000时，计算机算逆矩阵就比较慢了。