有没有一种方法可以用决策树/随机森林进行迁移学习?

Posted

技术标签:

【中文标题】有没有一种方法可以用决策树/随机森林进行迁移学习?【英文标题】:Is there a method to do transfer learning with decision trees/random forest? 【发布时间】:2021-08-01 13:47:33 【问题描述】:

有没有办法使用决策树或随机森林模型进行迁移学习?具体来说,我想知道在 Python 中是否有一种简单易用的方法,使用Scikit-learn 训练的模型。

我能想到的就是在原始数据集上训练一个随机森林,当新数据到达时,训练新树并将它们添加到您的模型中。但是,我想知道这是否是一个好方法,是否还有其他更好的方法。

【问题讨论】:

【参考方案1】:

可能但不实用。

迁移学习的目的是为深度学习 (DL) 模型赋予初始权重并加快学习过程。您会发现,给定一个相同的 DL 模型,当应用于计算机视觉等类似应用时,所有生成的 DL 模型都有相对的取值范围,虽然并不完全显着,但优于权重随机化甚至稀疏。

机器学习 (ML) 模型具有浅层架构,您可以简单地使用权重随机化来训练测试模型。

如果您坚持进行迁移学习,您可以使用您所引用的先前模型的权重,但请确保您具有相同的输入输出数据并相应地配置您的模型。您会注意到,您无法在任何地方找到 ML 的迁移学习并且更容易,因为它不实用。最好从头开始学习。

【讨论】:

以上是关于有没有一种方法可以用决策树/随机森林进行迁移学习?的主要内容,如果未能解决你的问题,请参考以下文章

关于机器学习中决策树的相关问题也谈随机森林

决策树与随机森林

决策树、随机森林

机器学习——随机森林

随机森林(原理/样例实现/参数调优)

随机森林与Adaboost