Fréchet Inception Distance（FID）

Posted 2020-11-28 gaona666

计算 IS 时只考虑了生成样本，没有考虑真实数据，即 IS 无法反映真实数据和样本之间的距离，IS 判断数据真实性的依据，源于 Inception V3 的训练集 ------ ImageNet，在 Inception V3 的“世界观”下，凡是不像 ImageNet 的数据，都是不真实的，都不能保证输出一个 sharp 的 predition distribution。因此，要想更好地评价生成网络，就要使用更加有效的方法计算真实分布与生成样本之间的距离。

基本原理

FID距离计算真实样本，生成样本在特征空间之间的距离。首先利用Inception网络来提取特征，然后使用高斯模型对特征空间进行建模，再去求解两个特征之间的距离，较低的FID意味着较高图片的质量和多样性。具体公式如下：

具体推导公式   https://www.sciencedirect.com/science/article/pii/0047259X8290077X

相比较IS来说，FID对噪声有更好的鲁棒性。因为FID只是把 Inception V3 作为特征提取器，并不依赖它判断图片的具体类别，因此不必担心 Inception V3 的训练数据和生成模型的训练数据不同。同时，由于直接衡量生成数据和真实数据的分布之间的距离，也不必担心每个类别内部只产生一模一样的图片这种形式的 mode collapse。

局限性
虽然相比IS，FID的方法有了很大改进，但是对于ImageNet这种大规模数据集上的过拟合问题，仍然没有解决。除此之外，FID基于特征提取，也就是依赖于某些特征的出现或者不出现，因此无法描述这些特征的空间关系。例如用GAN去生成人脸，如果嘴巴长在眼睛上面，FID可能也会认为它是一张较好地生成结果。

总结
同样是借助于Inception V3的结构提取特征，所以GAN的论文中经常使用FID作为IS的补充，特别是在多样性和mode collapse问题上，FID有更好地评价表现，但也有和IS同样的缺陷，比如不适合在内部差异较大的数据集上使用，无法区分过拟合等。

原文链接：https://blog.csdn.net/qq_35586657/article/details/98478508     GAN的几种评价指标