《统计学习方法（李航）》讲义 第08章 提升方法

Posted 2020-10-12 黎明程序员

      提升(boosting) 方法是一种常用的统计学习方法,应用广泛且有效.在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能.本章首先介绍提升方法的思路和代表性的提升算法AdaBoost; 然后通过训练误差分析探讨AdaBoost 为什么能够提高学习精度; 并且从前向分步加法模型的最后叙述提升方法更具体的实例一一提升树(boosting角度解释AdaBoost ;tree).AdaBoost 算法是1995 年由Freund 和Schapire 提出的,提升树是2000 年由Friedman 等人提出的.

 

提升方法Python实战： https://github.com/itmorn/Machine-Learning/tree/master/EnsembleMethods

Python sklearn-ensemble地址： http://scikit-learn.org/stable/modules/ensemble.html

——黎明传数