最小二乘法

Posted neu博

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了最小二乘法相关的知识,希望对你有一定的参考价值。

        1、前言

                a、本文主性最小二乘的标准形式,非线性最小二乘求解可以参考Newton法

             b、对于参数求解问题还有另外一种思路:RANSAC算法。它与最小二乘各有优缺点:

             --当测量值符合高斯分布(或者说测量误差符合期望为0的高斯分布),使用最小二乘比较合适,可以获得比较稳定且很高的精度。

                而当误差服从高斯分布的情况下, 最小二乘法等价于极大似然估计。

             --当测量值离散性比较大,存在很多outliers,那么使用最小二乘求解就会存在很大的误差,此时使用RANSAC算法更合适。

                线性最小二乘只适用于参数模型会线性关系的情形,RANSAC则没有此限制。

            c、线性最小二乘又分为齐次线性最小二乘和非齐次线性最小二乘。

        2、非齐次最小二乘

                非齐次

以上是关于最小二乘法的主要内容,如果未能解决你的问题,请参考以下文章

什么是最小二乘法回归分析?

怎么用sklearn 解决最小二乘法

什么是加权最小二乘法,它的基本思想是什么

谁懂迭代加权最小二乘法,能否给讲下原理

偏最小二乘法的岭回归分析

什么是加权最小二乘法,它可以解决什么问题?