graphviz 可以显示 one-hot 解码的分类数据吗？

Posted 2023-03-12

【中文标题】graphviz 可以显示 one-hot 解码的分类数据吗？

【英文标题】：Can graphviz display one-hot decoded categorical data?

【发布时间】：2019-08-03 10:13:39

【问题描述】：

我试图让 Graphviz 显示我的 oneHotEncoded 分类数据，但我无法让它工作。

这是我的 X 数据和这些列：

Category, Size, Type, Rating, Genre, Number of versions   

['ART_AND_DESIGN' '6000000+' 'Free' 'Everyone' 'Art & Design' '7']  
['ART_AND_DESIGN' '6000000+' 'Free' 'Everyone' 'Art & Design' '2']  

...   
['FAMILY' '20000000+' 'Free' 'Everyone' 'Art & Design' '13']

还有我的代码示例：

X = self.df.drop(['Installs'], axis=1).values
y = self.df['Installs'].values

self.oheFeatures = OneHotEncoder(categorical_features='all')
EncodedX = self.oheFeatures.fit_transform(X).toarray()

self.oheY = OneHotEncoder()
EncodedY = self.oheY.fit_transform(y.reshape(-1,1)).toarray()

self.X_train, self.X_test, self.y_train, self.y_test = train_test_split(EncodedX, EncodedY, test_size=0.25, random_state=33)

clf = DecisionTreeClassifier(criterion='entropy', min_samples_leaf=100)
clf.fit(self.X_train, self.y_train)
    
tree.export_graphviz(clf, out_file=None, 
            feature_names=self.oheFeatures.get_feature_names(),
            class_names=self.oheY.get_feature_names(),
            filled=True, 
            rounded=True,  
            special_characters=True)  

Dot_data = tree.export_graphviz(clf, out_file=None) 
    graph = graphviz.Source(dot_data) 
    graph.render("applications") 

但是当我尝试可视化输出结果时，我得到了编码数据的决策树：

有没有办法让 graphviz 显示“解码”数据？

【参考方案1】：

您似乎期望这里有一些（相对简单的）编程方法或解决方法，但事实并非如此，而且问题实际上比简单的 Graphviz 可视化要深入得多。

你要记住的是：

您的树对任何解码数据一无所知；就它而言，唯一的实际数据是 one-hot 编码的数据 Graphviz 只是简单地显示树状结构

鉴于上述情况，您可能会看到，尽管您的请求听起来确实很有意义，并且从服务于树解释的“业务”角度理解为所需的功能（毕竟，树模型的一大优势是应该正是它们的可解释性），从 编程 的角度来看，这个问题非常重要（这实际上就是 SO 的全部内容）：它甚至与 Graphviz 没有任何关系 - 问题即使我们想以规则的形式打印树，它也会上升，这与 scikit-learn 为树构建所做的设计选择有关。

我承认，当我第一次听说它时，我自己很惊讶地发现 scikit-learn 中的决策树不能直接处理分类变量（参见 Can sklearn DecisionTreeClassifier truly work with categorical data? 中的讨论和一个仍然开放的Github issue 关于这个主题）。我感到惊讶的原因是，我知道这当然不是唯一可用的设计选择：我来自 R 背景，而且我知道在 R 中完全可以用分类特征拟合树，而无需一个-热编码；这是example：

但是，唉，这至少暂时不适用于 scikit-learn（我非常怀疑它会改变）...

【参考方案2】：

@desertnaut 是正确的，没有快速简便的方法可以做到这一点，因为 sklearn 中的模型将二进制虚拟变量与任何其他实值特征完全相同。

但是，至少在您的简单情况下（所有功能都是一次性编码的），这并不难实现。首先，您可以将input_feature_names 提供给get_feature_names，以便功能名称比X[34] 更有用。接下来，export_graphviz 的输出是 DOT 代码，它是人类可读的，因此是人类可编辑的。在像您这样的非常小的示例中，您可以完全手动完成；在更大的示例中，您可能希望使用正则表达式替换或类似的东西。

我将a notebook 放在一起来演示这一点，一次是在非常简单的情况下，一次是在更复杂的情况下。我考虑过对 export_graphviz 方法的部分进行猴子修补，但最终只是在事后修改了 DOT 代码。当 sklearn 完成决定并实施保留特征名称的方法（或至少完成对所有转换器的 get_feature_names 方法的充实）时，第二个示例应该适用于更复杂的转换器管道/复合材料。