局部模型无关方法

Posted 2022-09-17 上下求索.

第9章 局部模型无关方法

局部解释方法解释个别预测。在本章中，您将了解以下局部解释方法：

• 单个条件期望曲线是部分依赖图的构建块，描述了改变特征如何改变预测。
• 局部代理模型（LIME）通过将复杂模型替换为局部可解释的代理模型来解释预测。
• 范围规则（锚点）是描述哪些特征值锚定预测的规则，从某种意义上说，它们将预测锁定到位。
• 反事实解释通过检查需要更改哪些特征以实现所需的预测来解释预测。
• Shapley 值是一种归因方法，可以将预测公平地分配给各个特征。
• SHAP是 Shapley 值的另一种计算方法，但也提出了基于数据中 Shapley 值组合的全局解释方法。

LIME 和 Shapley 值是归因方法，因此单个实​​例的预测被描述为特征效应的总和。其他方法，例如反事实解释，是基于示例的。