为啥加载模型时需要加载优化器模型参数

Posted 2023-05-17

参考技术A 我们为训练定义了以下超参数：

Number of Epochs - 迭代数据集的次数
Batch Size - 参数更新前通过网络传播的数据样本数
Learning Rate - 在每个批次/时期更新模型参数的程度。 较小的值会产生较慢的学习速度，而较大的值可能会导致训练期间出现不可预测的行为。

如何使用自定义优化器加载 keras 保存的模型

【中文标题】如何使用自定义优化器加载 keras 保存的模型

【英文标题】：How do I load a keras saved model with custom Optimizer

【发布时间】：2019-07-17 00:49:56

【问题描述】：

我已经使用自定义优化器编译和训练了一个 keras 模型。我保存了模型，但是当我尝试加载模型时，它会抛出一个错误，指出 ValueError: Unknown optimizer: MyOptimizer。我试图将 MyOptimizer 作为自定义对象传递，例如：models.load_model('myModel.h5', custom_objects='optimizer':MyOptimizer)，但它仍然会引发错误。如何将模型加载到带有自定义对象的 keras 模型？

【参考方案1】：

我遇到了同样的问题:)

我通过使用models.load_model('myModel.h5', compile=False) 加载模型使其工作。

来自kerassource code：

如果在保存的模型中找到优化器，则该模型已经编译。否则，模型未编译并会显示警告。当compile 设置为 False 时，编译将被忽略，没有任何警告。

加载未编译的模型后，我可以使用我的自定义优化器再次编译它。

【讨论】：

顺便说一句，您不需要仅为推理而编译

【参考方案2】：

您必须使用优化器类的名称作为 custom_objects 字典中的键，在您的情况下，优化器将是“MyOptimizer”对象，

models.load_model('myModel.h5', custom_objects='MyOptimizer': MyOptimizer)

应该有效

【参考方案3】：

我遇到了同样的问题。但是，我的模型中有两个不同的自定义内容。一个是我的优化器，另一个是自定义层。因此，我解决了我的问题如下：

my_loaded_model = tf.keras.models.load_model('my_models_name.h5', custom_objects='KerasLayer':hub.KerasLayer , 'AdamWeightDecay': optimizer)