机器学习理论基础学习2——线性回归

Posted 2021-02-03 nxf-rabbit75

1.最小二乘法解的的推导，几何意义解释最小二乘法

 

 

 2.从概率的角度解释最小二乘法

结论：最小二乘法等价于最大似然估计(条件是噪音需要满足高斯分布)

 

3. L2正则化 ---  岭回归

 

 

 4. 从概率的角度看正则化

结论：正则化之后的最小二乘法等价于最大后验概率估计(条件是噪音和先验分布都满足高斯分布)