特征与多项式回归

Posted 郑哲

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了特征与多项式回归相关的知识,希望对你有一定的参考价值。

我们可以用几种不同的方法来改进我们的特征和假设函数的形式。

 

我们可以把多个特征组合成一个。例如,我们可以将X1和X2为新变量x3。

 

多项式回归:

我们的假设函数不一定是线性的(如果不符合数据的话)。


我们可以通过假设它的二次、三次或平方根函数(或任何其他形式)来改变我们的假设函数的行为或曲线。

 

例如,我们的回归函数是然后,我们可以创建基于增加的变量X1,得到二次函数。或者三次函数

 

在立方的版本,我们已经创造出了新的变量X2和X3,其中x2=x12,x3=x13

 

为了使平方根函数,我们可以做

 

要记住的一件重要事情是,如果你用这种方式选择你的特征,那么特征缩放就变得非常重要了。

 

如果X1范围1 - 1000 x12范围变成1 - 1000000 ,x13变成1 - 1000000000。

 

以上是关于特征与多项式回归的主要内容,如果未能解决你的问题,请参考以下文章

运行没有特征组合的多项式回归

机器学习:逻辑回归(使用多项式特征)

Scikit - 具有布尔值和特征选择的多项式回归

逻辑回归-4.添加多项式特征

添加多项式特征破坏了 SVM 回归

多项式回归(Polynomial Regression)