标准方程法(正规方程法)

Posted pjishu

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了标准方程法(正规方程法)相关的知识,希望对你有一定的参考价值。

为了求得参数θ,也可以不用迭代的方法(比如梯度下降法),可以采用标准方程法一次性就算出了θ。

标准方程法介绍:

(1)

技术图片

这里面,X的第一列是人为添加的,为了方便运算的,都置为1,后面才是真正的特征。

(2)

下面是样本对应的输出:

技术图片

(3)

设拟合函数为: h(x) = θ0 * x0 + θ1 * x1 .... + θn * xn  ( 其中x0 = 1)

技术图片

(4)

采用均方误差定好代价函数

最终结果 :

技术图片

 

 

证明:


要使得J最小,则有J对θ的导数=0,则

技术图片

技术图片

技术图片

技术图片

 

技术图片

技术图片

证完。

 

以上是关于标准方程法(正规方程法)的主要内容,如果未能解决你的问题,请参考以下文章

正规方程法

[ch05-01] 正规方程法解决多变量线性回归问题

正规方程

正规方程(Normal Equation)——对于线性回归问题的一种快速解法

机器学习梯度下降与正规方程(附例题代码)

吴恩达机器学习17:正规方程