最小二乘法

Posted 2022-11-06 luofeiju

一 常规最小二乘法拟合直线

    已知数据点为 ，欲拟合直线 ，则有最小化：。

              

    使用矩阵表示，令 ，则有：,

    X, Y已知，要使E最小化，则向量B求导等于零：，整理得：。

 

二 使用垂直距离改写E

    常规最小二乘法有如下问题：

    1）数据点旋转后，求解得直线是变化的；

    2）垂直直线无法求解；

    通过修改 E 表达式，可以克服以上问题，如下图：

                  

    假设 ，图中直线方程  已经归一化，任意点 到直线的距离为 ，则有最小化：。

    上式中，a,b,d 均为未知量，首先对求偏导，有：，整理得：，

    将d代入E中得：。

    使用矩阵表示，令 ，有： ，

    对X求导，可得：，求解二元一次方程组  可计算处拟合直线。

 

三 RANSAC(Random Sample Consensus)

     

    如上图所示，少数离群点可使拟合出现较大偏差。因此，应该使用一些逻辑来降低离群点干扰，具体措施如下：

    1）随机选取一个子集，使用最小二乘法拟合直线；

    2）在规定得误差范围内计算合群点；

    3）多次选取不同的子集，继续1）2）操作；

    4）选择合群点最多模型作为拟合初步结果，使用该模型下所有合群点重新拟合直线，得到最终结果。