Python 对线性模型进行 特征选择,不断模型线性模型的AIC
Posted 刘润森!
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python 对线性模型进行 特征选择,不断模型线性模型的AIC相关的知识,希望对你有一定的参考价值。
在Python中没有R语言中的MASS::stepAIC 方法 进行逐步回归
逐步回归是一种贪心算法,它每次迭代选择一个最优的特征加入模型或从模型中删除一个特征,直到最终得到一个最优的子集。有两种逐步回归算法,一种是前向逐步回归(forward stepwise regression),另一种是后向逐步回归(backward stepwise regression)。
但我们可以使用暴力的方法不断求出模型的AIC
以下是使用前向逐步回归进行特征选择的代码示例:
import numpy as np
import pandas as pd
import statsmodels.api as sm
from itertools import combinations
from sklearn.metrics import mean_squared_error
# Load Boston Housing dataset
boston = pd.read_csv(\'https://raw
以上是关于Python 对线性模型进行 特征选择,不断模型线性模型的AIC的主要内容,如果未能解决你的问题,请参考以下文章
如何使用线性支持向量机 (SVM) 分类器确定最重要/信息量最大的特征