python实现线性回归原理

Posted qian-lu

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python实现线性回归原理相关的知识,希望对你有一定的参考价值。

线性回归是机器学习的基础,用处非常广泛,在日常工作中有很大作用。

1.什么是线性回归

技术分享图片

通过多次取点,找出符合函数的曲线,那么就可以完成一维线性回归。

2.数学表示

技术分享图片

技术分享图片是截距值,为偏移量。

因为单纯计算多项式需要很大空间,所以就需要将式子变形,转化为矩阵乘积形式。

技术分享图片

3.最小二乘法模型

首先定义一个函数L来表示损失函数(通过已有的X,Y数据来计算)

技术分享图片技术分享图片

4.梯度下降

直接运算缺点:运算性能不足。

所以选择梯度下降法。

技术分享图片

以上是关于python实现线性回归原理的主要内容,如果未能解决你的问题,请参考以下文章

机器学习多项式回归原理介绍

机器学习笔记一元线性回归原理公式及代码实现

线性回归

线性回归(Linear Regression)——原理均方损失小批量随机梯度下降PyTorch实现

一元线性回归的数学原理

机器学习——简单线性回归(原理推导+算法描述+代码实现)