具有自定义损失函数的随机森林

Posted

技术标签:

【中文标题】具有自定义损失函数的随机森林【英文标题】:Random Forests with a Customized Loss Function 【发布时间】:2014-05-29 11:45:01 【问题描述】:

我是机器学习领域的初学者。对于一个项目,我必须在随机森林分类中使用自定义的损失函数。到目前为止,我一直在使用 scikit。通过 scikit 实现这一点的建议会更有帮助。

【问题讨论】:

【参考方案1】:

损失函数(分类树中的基尼杂质和熵)在 scikit 的 _tree.pyx cython 文件中实现(在源代码中它们被称为标准)。您可以从修改/添加这些功能开始。如果将自定义损失函数(标准)添加到 cython 文件中,还需要在 tree.py python 文件中公开它(查看 CRITERIA_CLF 和 CRITERIA_REG 列表)。

【讨论】:

以上是关于具有自定义损失函数的随机森林的主要内容,如果未能解决你的问题,请参考以下文章

随机森林、GBDT、Xgboost

R语言使用caret包的train函数构建随机森林(random forest)模型模型调优自定义设置trainControl函数和tuneLength参数

自定义损失函数 sklearn

决策树、随机森林

matlab调用啥函数可以看训练好的随机森林的每一颗树

R语言编写自定义函数计算分类模型评估指标:准确度特异度敏感度PPVNPV数据数据为模型预测后的混淆矩阵比较多个分类模型分类性能(逻辑回归决策树随机森林支持向量机)