[Repost] Focal Loss理解

Posted 2022-12-09 SoaringPigeon

Focal Loss理解
对于其中的$\alpha$取0.25反而降低了正样本权重的解释：
通过一系列调参，得到$\alpha =0.25,y=2$(在他的模型上)的效果最好。注意在他的任务中，正样本是属于少数样本 也就是说， 本来正样本难“匹敌”负样本，但经过$(1-\hat{y}{)}^{\gamma }$和${\hat{y}}^{\gamma }$的“操控”后，也许形势还逆转了，还要对正样本降权。不过这样的调整，只是经验结果，理论上很难有一个指导方案来决定$\alpha$的值，如果没有大算力调参，倒不如直接让$\alpha =0.5$