集成学习算法

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了集成学习算法相关的知识,希望对你有一定的参考价值。

集成学习算法

  在统计学和机器学习中,集成方法使用多种学习算法来获得比单独从任何组成学习算法获得更好的预测性能。Ensemble methods(组合方法)的效果往往是最好的,当然需要消耗的训练时间也会拉长。

  所谓Ensemble methods,就是把几种机器学习的算法组合到一起,或者把一种算法的不同参数组合到一起。

一 Blending and Bagging

  • Motivation of Aggregation
  • Uniform Blending
  • Linear and Any Blending
  • Bagging (Bootstrap Aggregation

 Selection by Validation

技术分享

技术分享

技术分享

bootstrap sample D?t: re-sample N examples from D uniformly with replacement—can also use arbitrary N‘ instead of original N
技术分享

 

 

二  AdaBoost 

技术分享

技术分享

 

 

三  Decision Tree

技术分享

 决策树的两种定义:

技术分享

技术分享

技术分享

技术分享

技术分享

技术分享

 

Random Forest

Gradient Boosted Decision Tree

 

 

 

 

 

 

 

 

 

 

 




以上是关于集成学习算法的主要内容,如果未能解决你的问题,请参考以下文章

6. 集成学习(Ensemble Learning)算法比较

集成学习算法

集成学习算法

机器学习集成学习原理

集成学习算法总结----Boosting和Bagging

集成学习算法总结----Boosting和Bagging