线性回归的Cost function实现

Posted sunnystone85

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了线性回归的Cost function实现相关的知识,希望对你有一定的参考价值。

此处使用Octave来实现

线性方程的代价函数:技术分享图片

 

代价函数:

技术分享图片

 

X 是测试值,假设用矩阵表示为     技术分享图片    为了方便用矩阵计算我们把X加一列 1 :   技术分享图片              同时 技术分享图片

 

那么h(X)的合就可以用矩阵乘法来计算  技术分享图片

 

平方就可以用 y‘ * y, 因为要平方之后把所有向量内的项加到一起,原理就是每一项跟自己相乘然后相加到一起还是矩阵相乘。

最后代价函数J就可以表示为:技术分享图片

以上是关于线性回归的Cost function实现的主要内容,如果未能解决你的问题,请参考以下文章

菜鸟之路——机器学习之非线性回归个人理解及python实现

线性回归——lasso回归和岭回归(ridge regression)

利用非线性回归,梯度下降法求出学习参数θ,进而求得Cost函数最优值——Jason niu

scikit-learn : 线性回归,多元回归,多项式回归

scikit-learn : 线性回归,多元回归,多项式回归

类似于 R 的 Python 线性回归诊断图