机器学习GBDT 和 决策森林 的区别？(面试回答)
Posted Better Bench
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了机器学习GBDT 和 决策森林 的区别？(面试回答)相关的知识，希望对你有一定的参考价值。
GBDT 和 决策森林 的区别？
（1）随机森林采用的bagging思想，而GBDT采用的boosting思想。这两种方法都是Bootstrap思想的应用，Bootstrap是一种有放回的抽样方法思想。虽然都是有放回的抽样，但二者的区别在于：随机森林是通过减少模型方差提高性能；GBDT是通过减少模型偏差提高性能。Bagging的训练集的选择是随机的，各训练集之间相互独立，弱分类器可并行，而Boosting的训练集的选择与前一轮的学习结果有关，是串行的。
（2）组成随机森林的树可以是分类树，也可以是回归树；而GBDT只能由回归树组成。
（3）组成随机森林的树可以并行生成；而GBDT只能是串行生成。
（4）随机森林对异常值不敏感；GBDT对异常值非常敏感。
以上是关于机器学习GBDT 和 决策森林 的区别？(面试回答)的主要内容，如果未能解决你的问题，请参考以下文章
随机森林(Random Forest)和梯度提升树(GBDT)有什么区别？