sklearn.metrics.roc_curve 用于多类分类

Posted 2023-03-12

【中文标题】sklearn.metrics.roc_curve 用于多类分类

【英文标题】：sklearn.metrics.roc_curve for multiclass classification

【发布时间】：2016-08-29 06:45:48

【问题描述】：

我想使用sklearn.metrics.roc_curve 来获取多类分类问题的 ROC 曲线。 Here 给出了如何让 roc 适应多类问题的解决方案。但我不明白参数“y_score”是什么意思，在多类分类问题中我应该为这个参数提供什么。

假设有这样的场景。从 0 到 8 有九个元素。前三个元素属于第 0 组，后三个属于第 2 组，中间的三个元素属于第 1 组。 0, 3, 6 是组的中心。我有一个成对的距离矩阵。那么，“y_score”参数应该提供什么？

from sklearn.metrics import roc_curve, auc
from sklearn.preprocessing import label_binarize

listTrue=[0,0,0,1,1,1,2,2,2] #value j at index i means element i is in group j
y=label_binarize(y,classes=range(2))
#get distmatrix
#distmatrix[i][j] gives the distance between element i and element j
fpr=dict()
tpr=dict()
roc_auc=dict()

fpr["micro"], tpr["micro"], _=roc_curve(y.ravel(),y_score?)
roc_auc=auc(fpr["micor"], tpr["micro"])

【参考方案1】：

首先我将回答您关于y_score 的问题。因此，您提到的示例中的y_score 是测试样本的预测（由分类器）概率。如果您有 2 个类，则 y_score 将有 2 列，每列将包含样本属于此类的概率。

要绘制多类 ROC，请使用 label_binarize 函数和以下代码。根据您的应用调整和更改代码。

---

使用虹膜数据的示例：

import matplotlib.pyplot as plt
from sklearn import svm, datasets
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import label_binarize
from sklearn.metrics import roc_curve, auc
from sklearn.multiclass import OneVsRestClassifier
from itertools import cycle

iris = datasets.load_iris()
X = iris.data
y = iris.target

# Binarize the output
y = label_binarize(y, classes=[0, 1, 2])
n_classes = y.shape[1]

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=.5, random_state=0)

classifier = OneVsRestClassifier(svm.SVC(kernel='linear', probability=True,
                                 random_state=0))
y_score = classifier.fit(X_train, y_train).decision_function(X_test)

fpr = dict()
tpr = dict()
roc_auc = dict()
lw=2
for i in range(n_classes):
    fpr[i], tpr[i], _ = roc_curve(y_test[:, i], y_score[:, i])
    roc_auc[i] = auc(fpr[i], tpr[i])
colors = cycle(['blue', 'red', 'green'])
for i, color in zip(range(n_classes), colors):
    plt.plot(fpr[i], tpr[i], color=color, lw=2,
             label='ROC curve of class 0 (area = 1:0.2f)'
             ''.format(i, roc_auc[i]))
plt.plot([0, 1], [0, 1], 'k--', lw=lw)
plt.xlim([-0.05, 1.0])
plt.ylim([0.0, 1.05])
plt.xlabel('False Positive Rate')
plt.ylabel('True Positive Rate')
plt.title('Receiver operating characteristic for multi-class data')
plt.legend(loc="lower right")
plt.show()

在本例中，您可以打印y_score。

print(y_score)

array([[-3.58459897, -0.3117717 ,  1.78242707],
       [-2.15411929,  1.11394949, -2.393737  ],
       [ 1.89199335, -3.89592195, -6.29685764],
       .
       .
       .

【参考方案2】：

ROC 是一种评估分类器质量的方法。但是，在您的示例中，只有分配给类的元素的基本事实。一旦你有了一个预测器，y_score 就可以是它属于正类的预测概率。

【讨论】：

我打算使用距离矩阵来生成概率之类的东西。但是多类问题中的 y_score 是什么？因为在demo中，有75个测试样本和三个类，y_score是一个形状为(75,3)的数组。也就是说，我必须为一个样本提供 3 个值。因为不了解svm部分，所以不知道demo中是怎么得到y_score的。