为啥预训练的深度学习模型的性能会下降？

Posted 2023-03-13

【中文标题】为啥预训练的深度学习模型的性能会下降？

【英文标题】：Why is there a decrease in the performance of pre-trained Deep Learning models?为什么预训练的深度学习模型的性能会下降？

【发布时间】：2017-10-02 23:13:28

【问题描述】：

使用来自 Keras 的模型和权重对受感染/未受感染的 RBC（这是预训练的 DL 模型以前从未见过的）进行二元分类。我发现模型（vgg16,19,xception）的性能随着训练和验证实例数量的增加而下降。为什么？

【问题讨论】：

您是否要在最终预测中添加一个新类？输出维度增加了？

【参考方案1】：

也许它与您正在进行推理的资源管理有关，并且模型在内存中扩展，它会降低性能。这种情况会创建大量的主内存访问来执行前向传递计算，并且会发生页面错误，并且会降低性能。

希望这会有所帮助。

【讨论】：

谢谢。问题是我在微调网络以学习新功能时没有使用足够数量的 epoch。随着我增加 epoch 的数量并使用 SGD 学习率进行排列，我可以发现性能正在提高。