用于分类和回归的递归特征消除的模型

Posted

技术标签:

【中文标题】用于分类和回归的递归特征消除的模型【英文标题】:models to use for Recursive Feature Elimination for classification and regression 【发布时间】:2020-04-08 01:33:33 【问题描述】:

对于Recursive Feature Eliminationclassificationregression,我们可以使用哪些模型。

例如我们可以使用

selector = RFE(RandomForestClassifier(), 5)

用于分类 和

selector = RFE(RandomForestRegressor(), 5)

回归

    还有哪些其他模型可用于 RFE可以将回归 RFE 模型用于分类,反之亦然(在某处阅读。仍然不确定它们如何适应)

【问题讨论】:

【参考方案1】:

关于 Q.1,文档说明:

估计器:对象

具有拟合方法的监督学习估计器,通过 coef_ 属性或 feature_importances_ 属性提供有关特征重要性的信息。

coef_ 通常与所有线性模型相关联(例如sklearn.linear_modelsklearn.naive_bayesklearn.svm 等)。 feature_importances_ 与基于树的模型相关联:例如sklearn.tree.DecisionTreeClassifiersklearn.ensemble.RandomForestClassifier

关于 Q.2,我对此知之甚少。我的直觉是,您可以通过离散化问题来使用一些分类器来解决回归问题,但不确定它在实践中是否有用。我会让更有知识的人回答这个问题。

【讨论】:

以上是关于用于分类和回归的递归特征消除的模型的主要内容,如果未能解决你的问题,请参考以下文章

递归特征消除(RFE)+ 交叉验证

R 在 RFE(递归特征消除)中使用我自己的模型来选择重要特征

随机森林的REF递归特征消除法来筛选特征(python实现不依赖sklearn)

使用 scikit-learn 进行递归特征消除和网格搜索:DeprecationWarning

机器学习第21篇 - 特征递归消除RFE算法 理论

29、带交叉验证的递归特征消除