机器学习-决策树

Posted 21座的胖子

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习-决策树相关的知识,希望对你有一定的参考价值。

决策树

既可以做分类也可以做回归

分类

以树的方式实现分类的结果,每个决策结点实现一个分类的函数,每个叶子结点表示分类结果。

熵/基尼系数(Gini)

熵代表了物体内部的混乱程度,数据越复杂,熵越大。

构造决策树

构造决策树的思路是随着深度加深,结点的熵迅速降低,降低得越快越好,这样可以得到一棵最矮的决策树。

算法

ID3:信息增益
C4.5:信息增益率

以上是关于机器学习-决策树的主要内容,如果未能解决你的问题,请参考以下文章

机器学习-决策树

机器学习:决策树(基尼系数)

机器学习:决策树——sklearn决策树调参

机器学习算法:决策树算法简介以及分类原理

决策树算法之鸢尾花特征分类可视化详解机器学习

机器学习决策树作业