机器学习 | GBDT
Posted AI算法攻城狮
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了机器学习 | GBDT相关的知识，希望对你有一定的参考价值。
简介
gbdt全称梯度提升决策树，在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，在前几年深度学习还没有大行其道之前，gbdt在各种竞赛是大放异彩。
原因大概有几个，
一是效果确实挺不错。
二是即可以用于分类也可以用于回归。
三是可以筛选特征。
这三点实在是太吸引人了，导致在面试的时候大家也非常喜欢问这个算法。
-
gbdt 的算法的流程？
-
gbdt 如何选择特征 ？
-
gbdt 如何构建特征 ？
-
gbdt 如何用于分类？
-
gbdt 通过什么方式减少误差 ？
-
gbdt的效果相比于传统的LR，SVM效果为什么好一些 ？
-
gbdt 如何加速训练？
-
gbdt的参数有哪些，如何调参 ？
-
gbdt 实战当中遇到的一些问题 ？
-
gbdt的优缺点 ？
正式介绍
首先gbdt 是通过采用加法模型（即基函数的线性组合），以及不断减小训练过程产生的残差来达到将数据分类或者回归的算法。
-
gbdt的训练过程
我们通过一张图片，来说明gbdt的训练过程:
以上是关于机器学习 | GBDT的主要内容，如果未能解决你的问题，请参考以下文章