什么是最小二乘法回归分析？

Posted 2023-04-05

所谓回归分析实际上就是根据统计数据建立一个方程，用这个方程来描述不同变量之间的关系，而这个关系又无法做到想像函数关系那样准确，因为即使你重复全部控制条件，结果也还有区别，这时通过让回归方程计算值和试验点结果间差值的平方和最小来建立回归方程的办法就是最小二乘法，二乘的意思就是平方。最小二乘就是指回归方程计算值和实验值差的平方和最小。 参考技术A

最小二乘法（又称最小平方法）是一种数学优化技术。它通过最小化误差的平方和寻找数据的最佳函数匹配。

对于一元线性回归模型, 假设从总体中获取了n组观察值（X1，Y1），（X2，Y2）， …，（Xn，Yn）。对于平面中的这n个点，可以使用无数条曲线来拟合。要求样本回归函数尽可能好地拟合这组值。综合起来看，这条直线处于样本数据的中心位置最合理。 选择最佳拟合曲线的标准可以确定为：使总的拟合误差（即总残差）达到最小。有以下三个标准可以选择：

（1）用“残差和最小”确定直线位置是一个途径。但很快发现计算“残差和”存在相互抵消的问题。

（2）用“残差绝对值和最小”确定直线位置也是一个途径。但绝对值的计算比较麻烦。

（3）最小二乘法的原则是以“残差平方和最小”确定直线位置。用最小二乘法除了计算比较方便外，得到的估计量还具有优良特性。这种方法对异常值非常敏感。

最小二乘法求线性回归方程

“最小二乘法主要用来求解两个具有线性相关关系的变量的回归方程。

该方法适用于求解不线性回归方程相关的问题,如求解回归直线方程,并应用其分析预报变量的取值 等。

破解此类问题的关键点如下: 析数据,分析相关数据,求得相关系数r,或利用散点图判断两变量之间是 否存在线性相关关系,若呈非线性相关关系,则需要通过变量的变换转化构造 线性相关关系. 建模型.根据题意确定两个变量,结合数据分析的结果建立回归模型.

具体求法：

第一步：求出变量x的平均值 

第二步：求出变量y的平均值 

第三步：求出系数b 

第四步：求出截距a

回顾UI直线方程如下图：

参考技术A “最小二乘法主要用来求解两个具有线性相关关系的变量的回归方程。

该方法适用于求解不线性回归方程相关的问题,如求解回归直线方程,并应用其分析预报变量的取值 等。

破解此类问题的关键点如下: 析数据,分析相关数据,求得相关系数r,或利用散点图判断两变量之间是 否存在线性相关关系,若呈非线性相关关系,则需要通过变量的变换转化构造 线性相关关系. 建模型.根据题意确定两个变量,结合数据分析的结果建立回归模型.

具体求法：

第一步：求出变量x的平均值

第二步：求出变量y的平均值

第三步：求出系数b

第四步：求出截距a

回顾UI直线方程如下图：