Focal Loss

Posted zf-blog

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Focal Loss相关的知识,希望对你有一定的参考价值。

为了有效地同时解决样本类别不均衡和苦难样本的问题,何凯明和RGB以二分类交叉熵为例提出了一种新的Loss----Focal loss

原始的二分类交叉熵形式如下:

技术分享图片

Focal Loss形式如下:

技术分享图片

 

 上式中,相对于原始的二分类交叉熵加入了两个量:1、modulating factor:技术分享图片(其中幂称为focusing parameter);2、技术分享图片

现在分别来解释一下两个分量的作用:

(1)第一个分量称为调制系数,它的作用是困难样本挖掘,比如p越大,则表示它更趋于是简单正样本,则对应的调制系数则更小,即简单样本对Loss的贡献更小,对于简单负样本同样如此;

(2)第二个分量我还不是很理解,感觉就只是一个起到调节不同类别样本比例的作用;

参考博客:https://blog.csdn.net/u014380165/article/details/77019084

                  https://blog.csdn.net/qq_34564947/article/details/77200104

 

以上是关于Focal Loss的主要内容,如果未能解决你的问题,请参考以下文章

Keras 自定义loss函数 focal loss + triplet loss

交叉熵损失函数和focal loss

focal loss 之 pytorch 实现

css laprorietàfocal.css

focal loss小结

Focal Loss