选择逻辑回归或决策树

Posted 2023-03-12

【中文标题】选择逻辑回归或决策树

【英文标题】：choose logistic regression or decision tree

【发布时间】：2018-08-18 00:52:07

【问题描述】：

我有一个项目，其中特征是 0 或 1（表示是或否），标签是从 0 到 9。应用程序将向用户提出 100 个问题，答案将是 0 或 1（特征）。从这些问题中，我会告诉他哪个标签适合他（如果是 0 或 1 或 2.....9）

我已经做了一些代码（使用 LR） 你怎么看？对于这种情况，我将使用多类逻辑回归或多类决策树

【问题讨论】：

我不太明白你在问什么。如果您询问选择哪种技术，它看起来对 SO 来说是广泛的。你的问题能更准确一点吗？

是的，对于这种情况，我是否必须选择具有“决策树”或“逻辑回归”的模型？这是一个机器学习应用程序，特征是“是”或“否”，标签是“0”、“1、---->、“9”

为什么不尝试两种方法并选择最好的呢？

我已经用LR试过了，但是我想用决策树试试，问题是我没有找到“多类决策树”的例子来尝试，

@ibtissamboutahi 多类树木并非易事。您可以使用超集（但我怀疑您是否有足够的数据来正确执行此操作）。您可以创建 N 棵树，每棵树将为其中一个标签建模

【参考方案1】：

当数据的维度很高时，逻辑回归效果很好。而在决策树中，深度不应该太深。因此，在您的情况下更好的是决策树，但最好的做法是尝试这两种方法，然后通过任何指标（如准确性、AUC、日志损失等）查看它们的性能。