论文阅读-DL《Understanding Black-box Predictions via Influence Functions》阅读

Posted 2020-10-02 _1024

 

从模型角度出发解释模型：

1、在测试点周围拟合一个简单模型

2、扰动测试集，看预估值如何变化

如何解释模型如何产生呢？

使用影响函数来解释

使用困难在于：

1、影响函数需要求二阶导；

2、需要模型凸且可微分；

解决方案：二阶优化技术

 

Question：
这篇文章里面的training point是指什么呢？