Python 对线性模型进行 特征选择,不断模型线性模型的AIC

Posted 刘润森!

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python 对线性模型进行 特征选择,不断模型线性模型的AIC相关的知识,希望对你有一定的参考价值。

在Python中没有R语言中的MASS::stepAIC 方法 进行逐步回归

逐步回归是一种贪心算法,它每次迭代选择一个最优的特征加入模型或从模型中删除一个特征,直到最终得到一个最优的子集。有两种逐步回归算法,一种是前向逐步回归(forward stepwise regression),另一种是后向逐步回归(backward stepwise regression)。

但我们可以使用暴力的方法不断求出模型的AIC

以下是使用前向逐步回归进行特征选择的代码示例:

import numpy as np
import pandas as pd
import statsmodels.api as sm
from itertools import combinations
from sklearn.metrics import mean_squared_error

# Load Boston Housing dataset
boston = pd.read_csv(\'https://raw

以上是关于Python 对线性模型进行 特征选择,不断模型线性模型的AIC的主要内容,如果未能解决你的问题,请参考以下文章

回归分析

模型特征选择:用简单模型为复杂模型筛选特征

线性模型

如何使用线性支持向量机 (SVM) 分类器确定最重要/信息量最大的特征

有没有办法使用带有 scikit-learn 的非线性模型的递归特征选择?

线性模型