随机森林RF与GBDT之间的区别
Posted AI算法攻城狮
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了随机森林RF与GBDT之间的区别相关的知识，希望对你有一定的参考价值。
相同点
- 都是由多棵树组成
- 最终的结果都是由多棵树一起决定
不同点
- 组成随机森林的树可以分类树也可以是回归树，而GBDT只由回归树组成
- 组成随机森林的树可以并行生成，而GBDT是串行生成
- 随机森林的结果是多数表决表决的，而GBDT则是多棵树累加之和
- 随机森林对异常值不敏感，而GBDT对异常值比较敏感
- 随机森林是通过减少模型的方差来提高性能，而GBDT是减少模型的偏差来提高性能的
- 随机森林不需要进行数据预处理，即特征归一化。而GBDT则需要进行特征归一化
分类树和回归树的区别
(1)分类树使用信息增益或增益比率来划分节点；每个节点样本的类别情况投票决定测试样本的类别。
(2)回归树使用最小化均方差划分节点；每个节点样本的均值作为测试样本的回归预测值
GBDT的核心就在于，每一棵树学的是之前所有树结论和的残差，这个残差就是一个加预测值后能得真实值的累加量
以上是关于随机森林RF与GBDT之间的区别的主要内容，如果未能解决你的问题，请参考以下文章