Caffe 求解器中的 average_loss 字段有啥用？

Posted 2023-02-21

【中文标题】Caffe 求解器中的 average_loss 字段有啥用？

【英文标题】：What is average_loss field in Caffe solver for?Caffe 求解器中的 average_loss 字段有什么用？

【发布时间】：2016-10-22 09:16:14

【问题描述】：

average_loss 有什么用？有人能举个例子还是通俗地解释一下？

【参考方案1】：

您可以签入caffe.proto 文件。当前版本的第 151 行对 average_loss 给出了以下注释：

Display the loss averaged over the last average_loss iterations

【讨论】：

那到底是什么意思？ x 迭代的平均损失有什么作用？只是平均并显示它？我为什么要那个？

而不是完全平均损失。它为您提供最后 n 次迭代的损失。这只是一个功能。在某些网络中可能有用。

谢谢，不过最好知道一个直观的例子

有时训练是用小批量执行的，损失可能是嘈杂的。在过去 n 次迭代中对其进行平均以更好地了解正在发生的事情是有意义的。

非常感谢，有道理