决策树学习算法

Posted

技术标签:

【中文标题】决策树学习算法【英文标题】:Decision Tree learning algorithm 【发布时间】:2011-05-06 04:09:07 【问题描述】:

我想先说这是一项家庭作业。

给定一组 Q 二进制输入变量,用于对 Y 的输出进行分类,Y 也是二进制的。

问题的第一部分是:我最多需要多少个例子来列举 Q 的所有可能组合?我目前认为,因为它最多要求我需要 Q,因为 Q-1 之前的所有值可能都是相同的,例如 1 并且 Q 处的项目是 0 。

问题的第二部分是:树最多可以有多少叶节点给Z个例子? 我目前的回答是,树最多有 2 个叶节点,一个代表真,一个代表假,因为它处理二进制输入和二进制输出。

这是检查这个问题的正确方法还是我过于深入地概括了我的答案?

编辑

查看 Cameron 的回复后,我现在将我的第一个答案转换为 2^Q,并以他的 Q = 3 示例为基础,我将得到 2^3 或 8 (2*2*2)。如果这是不正确的想法,请纠正。

编辑#2

问题的第二部分似乎应该是 (2^Q) * Z 或提供一个示例:(2^3) * 3) 或 8*3 = 24 个叶节点。回顾一下,如果我有 3 个二进制输入,我最初会采用 2^3 并得到 8,现在我想查看 3 个示例。因此我应该得到 8*3 或 24。

编辑#3

事后看来,无论我使用多少示例,叶节点的数量都不应增加,因为它是基于每棵树的。

【问题讨论】:

@Roger 很高兴知道,我认为它仍然被接受,我最初将它标记为这样 我知道,这就是为什么我会小心地在编辑历史记录中留下解释和链接。 (每个人:提示,提示,检查历史;) 【参考方案1】:

我建议您通过手工制作小示例案例来解决问题。

对于第一部分,为Q 选择一个较小的值,例如 3,然后写下Q 的所有可能组合。然后你可以计算出你需要多少个例子。增加Q再做一次。

对于问题的第二部分,选择一个小的 Z 并手动运行决策树算法。看看你得到了多少叶子。然后选择另一个Z,看看它是否/如何变化。尝试生成不同的示例(使用相同的Z),看看是否可以更改叶子的数量。

【讨论】:

只是为了确保我在同一页面上,因为只能从二进制条件生成两个值,即真或假我想这将是@ 987654327@也就是说2升到Q 我添加了一些信息来说明我认为该方法的发展方向,您能否提供一些反馈?

以上是关于决策树学习算法的主要内容,如果未能解决你的问题,请参考以下文章

机器学习-------决策树算法

机器学习算法基础+实战系列决策树算法

ML之监督学习算法之分类算法一 ———— 决策树算法

吴裕雄--天生自然python机器学习:决策树算法

决策树学习基决策树学习基本算法

机器学习算法之决策树(上)