掩蔽者在 SHAP 包中真正做了啥并适合他们训练或测试？

Posted 2023-02-16

【中文标题】掩蔽者在 SHAP 包中真正做了啥并适合他们训练或测试？

【英文标题】：What do maskers really do in SHAP package and fit them to train or test?掩蔽者在 SHAP 包中真正做了什么并适合他们训练或测试？

【发布时间】：2021-06-08 03:58:07

【问题描述】：

我一直在尝试使用 shap 包。我想从我的逻辑回归模型中确定形状值。与TreeExplainer 不同，LinearExplainer 需要一个所谓的掩码器。这个掩码器到底做了什么，独立掩码器和分区掩码器有什么区别？

另外，我是否对测试集中的重要功能感兴趣。然后我是否将掩蔽器安装在训练集或测试集上？下面你可以看到一段 sn-p 代码。

model = LogisticRegression(random_state = 1)
model.fit(X_train, y_train)

masker = shap.maskers.Independent(data = X_train)
**or**
masker = shap.maskers.Independent(data = X_test)

explainer = shap.LinearExplainer(model, masker = masker)
shap_val = explainer(X_test)```

【参考方案1】：

Masker 类提供背景数据来“训练”您的解释器。即，在：

explainer = shap.LinearExplainer(model, masker = masker)

您正在使用由 masker 确定的背景数据（您可以通过访问 masker.data 属性查看使用了哪些数据）。您可以阅读更多关于“真实模型”或“真实数据”的解释here 或here。

根据上述情况，您可以同时进行计算：

masker = shap.maskers.Independent(data = X_train)
**or**
masker = shap.maskers.Independent(data = X_test)
explainer = shap.LinearExplainer(model, masker = masker)

但从概念上讲，imo 以下内容更有意义：

masker = shap.maskers.Independent(data = X_train)
explainer = shap.LinearExplainer(model, masker = masker)

这类似于通常的 train/test 范例，您可以在其中根据训练数据训练模型（和解释器），并尝试预测（和解释）您的测试数据。

【讨论】：

干杯！现在更有意义了。