用于分类和回归的递归特征消除的模型
Posted
技术标签:
【中文标题】用于分类和回归的递归特征消除的模型【英文标题】:models to use for Recursive Feature Elimination for classification and regression 【发布时间】:2020-04-08 01:33:33 【问题描述】:对于Recursive Feature Elimination
和classification
和regression
,我们可以使用哪些模型。
例如我们可以使用
selector = RFE(RandomForestClassifier(), 5)
用于分类 和
selector = RFE(RandomForestRegressor(), 5)
回归
-
还有哪些其他模型可用于 RFE?
可以将回归 RFE 模型用于分类,反之亦然(在某处阅读。仍然不确定它们如何适应)
【问题讨论】:
【参考方案1】:关于 Q.1,文档说明:
估计器:对象
具有拟合方法的监督学习估计器,通过 coef_ 属性或 feature_importances_ 属性提供有关特征重要性的信息。
coef_
通常与所有线性模型相关联(例如sklearn.linear_model
、sklearn.naive_baye
、sklearn.svm
等)。 feature_importances_
与基于树的模型相关联:例如sklearn.tree.DecisionTreeClassifier
、sklearn.ensemble.RandomForestClassifier
等
关于 Q.2,我对此知之甚少。我的直觉是,您可以通过离散化问题来使用一些分类器来解决回归问题,但不确定它在实践中是否有用。我会让更有知识的人回答这个问题。
【讨论】:
以上是关于用于分类和回归的递归特征消除的模型的主要内容,如果未能解决你的问题,请参考以下文章
R 在 RFE(递归特征消除)中使用我自己的模型来选择重要特征
随机森林的REF递归特征消除法来筛选特征(python实现不依赖sklearn)