如何计算决策树的泛化错误率

Posted 2023-03-12

【中文标题】如何计算决策树的泛化错误率

【英文标题】：How to calculate the generalization error rate of a decision tree

【发布时间】：2016-09-27 08:08:45

【问题描述】：

我正在做数据挖掘简介的练习，被以下关于决策树的问题困住了：

培训

测试

决策树

问题要求我用乐观和悲观的方法计算泛化错误率，答案分别是 0.3 和 0.5。 它们与我的答案 0.5 和 0.7 完全不同。根据我的计算，实例 3、7、8、9、10 是错误分类。 我在谷歌上搜索了很多文档，但都没有解释原因，只是表明 3 / 10 = 0.3。 请告诉我我犯了什么错误，谢谢！

【参考方案1】：

你错了，错误分类是：

训练中：3、5、6 测试中：12、13、14、15

你的决策树是：

return + iff（非 a 和非 b）或（a 和 c）

例如对于 3：

A=0 B=1 C=0 class=+，你的 DT 返回 - A=0 和 B=1

【参考方案2】：

我认为您的答案是正确的，解决方案手册的答案是错误的，并且您在此处复制树时出错 - 在我的书副本中，叶节点标签从左到右读取，+， -、+、-。您的树，带有叶节点 +、-、-、+，确实分别导致 30% 和 50% 的乐观和悲观错误估计。

使用叶子节点+、-、+、-，误差确实是50%和70%。

【讨论】：

我认为标志（类标签）没有区别；总是需要在乐观和悲观的情况下处理叶节点中的最小值；除了验证集的情况。如果我错了，请有人纠正我

【参考方案3】：

你的答案是对的。 它是 '+' iff( 不是 A && 不是 B) || （A && 不是 C）