使用 OpenCV 随机森林进行回归

Posted

技术标签:

【中文标题】使用 OpenCV 随机森林进行回归【英文标题】:Using OpenCV Random Forest for Regression 【发布时间】:2014-08-11 05:01:21 【问题描述】:

我之前使用随机森林进行分类任务,使用示例 here 作为指导设置参数。它工作完美。但是现在我想解决一个回归问题。

我有一些想法,这与定义随机森林训练方法中数据类型的 var_type Mat 有关,但不确定这些标志中的每一个对应什么。

对于分类任务,它看起来像这样(从上面的链接复制的代码):

// define all the attributes as numerical
// alternatives are CV_VAR_CATEGORICAL or CV_VAR_ORDERED(=CV_VAR_NUMERICAL)
// that can be assigned on a per attribute basis

Mat var_type = Mat(ATTRIBUTES_PER_SAMPLE + 1, 1, CV_8U );
var_type.setTo(Scalar(CV_VAR_NUMERICAL) ); // all inputs are numerical

// this is a classification problem (i.e. predict a discrete number of class
// outputs) so reset the last (+1) output var_type element to CV_VAR_CATEGORICAL

var_type.at<uchar>(ATTRIBUTES_PER_SAMPLE, 0) = CV_VAR_CATEGORICAL;

还有参数设置:

float priors[] = 1,1,1,1,1,1,1,1,1,1;  // weights of each classification for classes
    // (all equal as equal samples of each digit)

CvRTParams params = CvRTParams(25, // max depth
                                5, // min sample count
                                0, // regression accuracy: N/A here
                            false, // compute surrogate split, no missing data                                    
                               15, // max number of categories (use sub-optimal algorithm for larger numbers)
                            priors, // the array of priors
                            false,  // calculate variable importance
                                4,       // number of variables randomly selected at node and used to find the best split(s).
                              100,   // max number of trees in the forest
                             0.01f,             // forrest accuracy
         CV_TERMCRIT_ITER | CV_TERMCRIT_EPS // termination cirteria
                                  );

训练使用 var_type 和 params 如下:

CvRTrees* rtree = new CvRTrees;

rtree->train(training_data, CV_ROW_SAMPLE, training_classifications,
                 Mat(), Mat(), var_type, Mat(), params);

我的问题是,如何设置 OpenCV 随机森林,使其作为回归量。我已经搜索了很多,但无法找到答案。我得到的最接近的解释是this 答案。但是仍然没有任何意义。

我正在寻找一个简单的答案来解释回归的 var_type 和参数。

【问题讨论】:

【参考方案1】:

要将其用于回归,您只需将 var_type 设置为 CV_VAR_ORDERED,即

var_type.at&lt;uchar&gt;(ATTRIBUTES_PER_SAMPLE, 0) = CV_VAR_ORDERED;

您可能希望将regression_accuracy 设置为一个非常小的数字,例如0.0001f。

【讨论】:

以上是关于使用 OpenCV 随机森林进行回归的主要内容,如果未能解决你的问题,请参考以下文章

随机森林

xgboost 包和随机森林回归

随机森林回归进行特征重要性排序时,如何同时得知特征x与预测量y之间是正相关还是负相关?

使用 Pyspark 训练随机森林回归模型

随机森林和GBDT进行比较

如何测试过度拟合的随机森林回归模型?