如何在 Keras 的顺序模型中更改输入形状

Posted

技术标签:

【中文标题】如何在 Keras 的顺序模型中更改输入形状【英文标题】:How to change input shape in Sequential model in Keras 【发布时间】:2017-06-30 10:57:55 【问题描述】:

我有一个在 Keras 中构建的顺序模型。 我试图弄清楚如何改变输入的形状。在下面的例子中

model = Sequential()
model.add(Dense(32, input_shape=(500,)))
model.add(Dense(10, activation='softmax'))
model.compile(optimizer='rmsprop',
      loss='categorical_crossentropy',
      metrics=['accuracy'])

假设我想建立一个具有不同输入形状的新模型,概念上应该是这样的:

model1 = model
model1.layers[0] = Dense(32, input_shape=(250,))

有没有办法修改模型输入形状?

【问题讨论】:

【参考方案1】:

有些相关,所以希望有人会发现这很有用:如果您有一个现有模型,其中输入是一个类似于 (None, None, None, 3) 的占位符,您可以加载模型,替换第一个具有具体形状输入的层。例如,当您想在 ios CoreML 中使用模型时,这种转换非常有用(在我的情况下,模型的输入是 MLMultiArray 而不是 CVPixelBuffer,并且模型编译失败)

from keras.models import load_model
from keras import backend as K
from keras.engine import InputLayer
import coremltools

model = load_model('your_model.h5')

# Create a new input layer to replace the (None,None,None,3) input layer :
input_layer = InputLayer(input_shape=(272, 480, 3), name="input_1")

# Save and convert :
model.layers[0] = input_layer
model.save("reshaped_model.h5")    
coreml_model = coremltools.converters.keras.convert('reshaped_model.h5')    
coreml_model.save('MyPredictor.mlmodel')

【讨论】:

【参考方案2】:

想想在这种情况下改变输入形状意味着什么。

你的第一个模型

model.add(Dense(32, input_shape=(500,)))

有一个真正是 500x32 矩阵的密集层。

如果您将输入更改为 250 个元素,则图层的矩阵和输入维度会不匹配。

但是,如果您试图实现的是从前 500 个元素的输入模型中重用最后一层的训练参数,您可以通过 get_weights 获得这些权重。然后你可以重建一个新模型并使用 set_weights 在新模型上设置值。

model1 = Sequential()
model1.add(Dense(32, input_shape=(250,)))
model1.add(Dense(10, activation='softmax'))
model1.layers[1].set_weights(model1.layers[1].get_weights())

请记住,model1 的第一层(又名 model1.layers[0])仍然是未经训练的

【讨论】:

有没有办法保留整个模型,只改变输入层?实际上我有一个复杂的模型,我想用完整的输入集和部分输入集来训练它并比较结果。我正在寻找一种方法来修改 modell1 中的输入维度,同时保持模型的其余部分相同(当然除了输入维度和第一层) 我认为不是。正如我所说,尺寸会不匹配。如果您想了解您的模型对部分输入的效果如何,我建议您仅使用您的部分输入训练一个不同的模型。但是,如果您真的想在具有不同大小输入的两种情况下使用相同的模型,您可以做的是使用 RNN 而不是 MLP。【参考方案3】:

这是另一种解决方案,无需从头开始定义模型的每一层。对我来说,关键是使用“_layers”而不是“layers”。后者似乎只返回一个副本。

import keras
import numpy as np

def get_model():
    old_input_shape = (20, 20, 3)
    model = keras.models.Sequential()
    model.add(keras.layers.Conv2D(9, (3, 3), padding="same", input_shape=old_input_shape))
    model.add(keras.layers.MaxPooling2D((2, 2)))
    model.add(keras.layers.Flatten())
    model.add(keras.layers.Dense(1, activation="sigmoid"))
    model.compile(loss='binary_crossentropy', optimizer=keras.optimizers.Adam(lr=0.0001), metrics=['acc'], )
    model.summary()
    return model

def change_model(model, new_input_shape=(None, 40, 40, 3)):
    # replace input shape of first layer
    model._layers[1].batch_input_shape = new_input_shape

    # feel free to modify additional parameters of other layers, for example...
    model._layers[2].pool_size = (8, 8)
    model._layers[2].strides = (8, 8)

    # rebuild model architecture by exporting and importing via json
    new_model = keras.models.model_from_json(model.to_json())
    new_model.summary()

    # copy weights from old model to new one
    for layer in new_model.layers:
        try:
            layer.set_weights(model.get_layer(name=layer.name).get_weights())
        except:
            print("Could not transfer weights for layer ".format(layer.name))

    # test new model on a random input image
    X = np.random.rand(10, 40, 40, 3)
    y_pred = new_model.predict(X)
    print(y_pred)

    return new_model

if __name__ == '__main__':
    model = get_model()
    new_model = change_model(model)

【讨论】:

以上是关于如何在 Keras 的顺序模型中更改输入形状的主要内容,如果未能解决你的问题,请参考以下文章

如何确定keras中的输入形状?

Keras 序列模型输入层

如何更改解释器输出形状?

Keras:如何在编译期间输入形状未知时创建带权重的自定义图层?

如何在 Keras 中的预训练 InceptionResNetV2 模型的不同层中找到激活的形状 - Tensorflow 2.0

如何在 Keras 中建模卷积循环网络 (CRNN)