优化二元焦点损失和骰子损失

Posted

技术标签:

【中文标题】优化二元焦点损失和骰子损失【英文标题】:optimizing binary focal loss and dice loss 【发布时间】:2021-03-08 12:04:40 【问题描述】:

我正在构建一个只有一个前景和一个背景的 Unet 图像分割模型(二值分割)。

对于损失函数,我将骰子损失和二元焦点损失相加

我想知道确保骰子损失和焦点损失的数量级相似是否重要

正如您在下面的摘录中看到的,二元焦点损失约为 0.0x,骰子损失为 0.x。在这种情况下,损失优化是否会更关注骰子损失而不是焦点损失?我应该在二元焦点损失中添加一个乘数吗?

【问题讨论】:

【参考方案1】:

我也是深度学习范式的新手。但是,根据这篇论文:https://ieeexplore.ieee.org/abstract/document/9180275/ 通常必须为组合损失添加乘数。在论文中,focal loss 和 dice loss 的组合损失使用以下等式计算: 组合损失= β*focalloss - (log (dice loss)) 如果您希望使用这些损失的任何其他组合,请报告您的结果。

【讨论】:

以上是关于优化二元焦点损失和骰子损失的主要内容,如果未能解决你的问题,请参考以下文章

机器学习线性回归的损失和优化

第三节课-损失函数和优化

减少骰子损失的正确方法

线性回归的损失和优化,机器学习预测房价

从极大似然到对数损失函数和交叉熵损失函数,以及对数损失优化取值范围

『cs231n』限制性分类器损失函数和最优化