训练自己的验证码识别器

Posted 上下博客

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了训练自己的验证码识别器相关的知识,希望对你有一定的参考价值。

首先查看keras中的sequential-api:fit 函数

fit(x=None, y=None, batch_size=None, epochs=1, verbose=1, callbacks=None, validation_split=0.0, validation_data=None, shuffle=True, class_weight=None, sample_weight=None, initial_epoch=0, steps_per_epoch=None, validation_steps=None)

x: 训练数据的 Numpy 数组。 如果模型中的输入层被命名,你也可以传递一个字典,将输入层名称映射到 Numpy 数组。 如果从本地框架张量馈送(例如 TensorFlow 数据张量)数据,x 可以是 None(默认)。

y: 目标(标签)数据的 Numpy 数组。 如果模型中的输出层被命名,你也可以传递一个字典,将输出层名称映射到 Numpy 数组。 如果从本地框架张量馈送(例如 TensorFlow 数据张量)数据,y 可以是 None(默认)。

batch_size: 整数或 None。每次梯度更新的样本数。如果未指定,默认为 32。

epochs: 整数。训练模型迭代轮次。一个轮次是在整个 x 或 y 上的一轮迭代。请注意,与 initial_epoch 一起,epochs 被理解为 「最终轮次」。模型并不是训练了 epochs 轮,而是到第 epochs 轮停止训练。

verbose: 0, 1 或 2。日志显示模式。 0 = 安静模式, 1 = 进度条, 2 = 每轮一行。

callbacks: 一系列的 keras.callbacks.Callback 实例。一系列可以在训练时使用的回调函数。详见 callbacks。

validation_split: 在 0 和 1 之间浮动。用作验证集的训练数据的比例。模型将分出一部分不会被训练的验证数据,并将在每一轮结束时评估这些验证数据的误差和任何其他模型指标。验证数据是清洗之前 x 和y 数据的最后一部分样本中。

validation_data: 元组 (x_val,y_val) 或元组 (x_val,y_val,val_sample_weights),用来评估损失,以及在每轮结束时的任何模型度量指标。模型将不会在这个数据上进行训练。这个参数会覆盖 validation_split。

shuffle: 布尔值(是否在每轮迭代之前混洗数据)或者 字符串 (batch)。batch 是处理 HDF5 数据限制的特殊选项,它对一个 batch 内部的数据进行混洗。当 steps_per_epoch 非 None 时,这个参数无效。

class_weight: 可选的字典,用来映射类索引(整数)到权重(浮点)值,用于加权损失函数(仅在训练期间)。这可能有助于告诉模型 「更多关注」来自代表性不足的类的样本。

sample_weight: 训练样本的可选 Numpy 权重数组,用于对损失函数进行加权(仅在训练期间)。您可以传递与输入样本长度相同的平坦(1D)Numpy 数组(权重和样本之间的 1:1 映射),或者在时序数据的情况下,可以传递尺寸为 (samples, sequence_length) 的 2D 数组,以对每个样本的每个时间步施加不同的权重。在这种情况下,你应该确保在 compile() 中指定 sample_weight_mode="temporal"。

initial_epoch: 开始训练的轮次(有助于恢复之前的训练)。

steps_per_epoch: 在声明一个轮次完成并开始下一个轮次之前的总步数(样品批次)。使用 TensorFlow 数据张量等输入张量进行训练时,默认值 None 等于数据集中样本的数量除以 batch 的大小,如果无法确定,则为 1。

validation_steps: 只有在指定了 steps_per_epoch时才有用。停止前要验证的总步数(批次样本)。

说明:以固定数量的轮次(数据集上的迭代)训练模型。

这里函数是Keras里的Sequential顺序模型,所以本文也是使用的顺序模型来进行训练的。

from keras.models import Sequential

上述代码是导入模型,顺序模型是一种多层网络进行叠加的,所以我们需要创建多个网络层:输入层,卷积,池化,全连接等。

输入层层:Input

卷积层层:conv2d

激活函数:Activation(relu) 

池化层:MaxPooling2D

Flatten层:flatten (将多维张量转为一维的张量,卷积层到全连接层的一个过渡层) 

防止过拟合:Dropout

全连接层:Dense

大致我们需要上述几个函数构建我们的网络,关于一些概念或者原理的东西,大家可以自行Google,下面是构建网络的代码。

inputs = Input(shape = input_shape, name = "inputs")conv1 = Conv2D(32, (3, 3), name = "conv1")(inputs)relu1 = Activation('relu', name="relu1")(conv1)conv2 = Conv2D(32, (3, 3), name = "conv2")(relu1)relu2 = Activation('relu', name="relu2")(conv2)pool2 = MaxPooling2D(pool_size=(2,2), padding='same', name="pool2")(relu2)conv3 = Conv2D(64, (3, 3), name = "conv3")(pool2)relu3 = Activation('relu', name="relu3")(conv3)pool3 = MaxPooling2D(pool_size=(2,2), padding='same', name="pool3")(relu3)x = Flatten()(pool3)x = Dropout(0.25)(x)x = [Dense(len(NUMBER), activation='softmax', name='fc%d'%(i+1))(x) for i in range(4)]outs = Concatenate()(x)

有了网络模型以后还需要编译一下才能使用。

model = Model(inputs=inputs, outputs=outs)model.compile(optimizer="优化器", loss="损失函数", metrics=['accuracy'])

编译函数第一个参数是优化器,有如下几个可供选择:

SGD 

RMSprop 

Adam 

Adadelta 

Adagrad 

Adamax 

Nadam 

Ftrl

第二个参数是损失函数,这里不列出了直接使用binary_crossentropy(交叉熵损失)

tf.keras.losses.BinaryCrossentropy( from_logits=False, label_smoothing=0, reduction="auto", name="binary_crossentropy")

第三个参数是推荐参数,默认就好。


有了模型以后还要有数据,数据的格式有两种

channels_last(以三维为例):(高度, 宽度, 通道)

channels_first(以三维为例):(通道, 高度, 宽度)

这里通道代表的就是我们的数据集,不过要进行改变成1维。因为我们通道会定义为1。

    if K.image_data_format() == 'channels_first': input_shape = (1, width, height) else: input_shape = (width, height, 1)

然后我们要将图片导入并且转一维。取一维的总长度,纬度是1,宽度,高度,然后重置图片,这里使用的是NumPy。

np.reshape(np.shape[0], 1, widthheight)

这样我们就有了图片组,和Keras对应的数据格式(这时候是空的)。还记得网络层里的第一层吗?

inputs = Input(shape = input_shape, name = "inputs")

这里的input_shape就是我们刚才创建的空的Keras图片格式。这里为什么传入空的,是因为这里只是当做占位符,可以理解为初始化了一个类,但是我们并没有开始执行这个类。

下面就是使用Fit函数进行训练了,训练前我们可以使用

model.summary()

进行模型的查看,fit函数训练写法

history = model.fit("训练图片数据", "训练图片标签",                    batch_size="训练一轮使用的样本数量",                    epochs="训练多少轮", verbose=2,                    validation_data=("测试图片数据", "测试图片标签"),                    shuffle=True                    )

模型输出

Model: "model_1"__________________________________________________________________________________________________Layer (type) Output Shape Param # Connected to ==================================================================================================inputs (InputLayer) (None, 37, 100, 1) 0 __________________________________________________________________________________________________conv1 (Conv2D) (None, 35, 98, 32) 320 inputs[0][0] __________________________________________________________________________________________________relu1 (Activation) (None, 35, 98, 32) 0 conv1[0][0] __________________________________________________________________________________________________conv2 (Conv2D) (None, 33, 96, 32) 9248 relu1[0][0] __________________________________________________________________________________________________relu2 (Activation) (None, 33, 96, 32) 0 conv2[0][0] __________________________________________________________________________________________________pool2 (MaxPooling2D) (None, 17, 48, 32) 0 relu2[0][0] __________________________________________________________________________________________________conv3 (Conv2D) (None, 15, 46, 64) 18496 pool2[0][0] __________________________________________________________________________________________________relu3 (Activation) (None, 15, 46, 64) 0 conv3[0][0] __________________________________________________________________________________________________pool3 (MaxPooling2D) (None, 8, 23, 64) 0 relu3[0][0] __________________________________________________________________________________________________flatten_1 (Flatten) (None, 11776) 0 pool3[0][0] __________________________________________________________________________________________________dropout_1 (Dropout) (None, 11776) 0 flatten_1[0][0] __________________________________________________________________________________________________fc1 (Dense) (None, 2) 23554 dropout_1[0][0] __________________________________________________________________________________________________fc2 (Dense) (None, 2) 23554 dropout_1[0][0] __________________________________________________________________________________________________fc3 (Dense) (None, 2) 23554 dropout_1[0][0] __________________________________________________________________________________________________fc4 (Dense) (None, 2) 23554 dropout_1[0][0] __________________________________________________________________________________________________concatenate_1 (Concatenate) (None, 8) 0 fc1[0][0]  fc2[0][0]  fc3[0][0]  fc4[0][0] ==================================================================================================Total params: 122,280Trainable params: 122,280Non-trainable params: 0

每一轮的训练结果

Train on 5000 samples, validate on 1000 samplesEpoch 1/10 - 48s - loss: 0.6951 - accuracy: 0.5081 - val_loss: 0.6918 - val_accuracy: 0.5217Epoch 2/10 - 47s - loss: 0.6865 - accuracy: 0.5583 - val_loss: 0.6696 - val_accuracy: 0.6655Epoch 3/10 - 52s - loss: 0.6014 - accuracy: 0.6966 - val_loss: 0.5228 - val_accuracy: 0.7720Epoch 4/10 - 42s - loss: 0.4662 - accuracy: 0.7880 - val_loss: 0.4102 - val_accuracy: 0.8217Epoch 5/10 - 41s - loss: 0.3911 - accuracy: 0.8293 - val_loss: 0.3460 - val_accuracy: 0.8558Epoch 6/10 - 41s - loss: 0.3280 - accuracy: 0.8625 - val_loss: 0.2909 - val_accuracy: 0.8835Epoch 7/10 - 41s - loss: 0.2785 - accuracy: 0.8886 - val_loss: 0.2580 - val_accuracy: 0.8947Epoch 8/10 - 37s - loss: 0.2477 - accuracy: 0.9034 - val_loss: 0.2297 - val_accuracy: 0.9143Epoch 9/10 - 44s - loss: 0.2293 - accuracy: 0.9099 - val_loss: 0.2136 - val_accuracy: 0.9200Epoch 10/10 - 48s - loss: 0.2167 - accuracy: 0.9155 - val_loss: 0.2115 - val_accuracy: 0.9185

loss:训练数据的损失(每轮减少) 

accuracy:训练数据的精准度(每轮增加) 

val_loss:验证数据的损失(每轮减少) 

val_accuracy:验证数据的精准度(每轮增加)

这里在第十轮发现验证数据有点开始过拟合了,还是训练数据少。所以直接使用第九轮的模型。

model.save(MODEL_PATH)

上述代码是保存模型

model = load_model(MODEL_PATH)

上述代码是载入模型,当我们训练好以后模型保存到本地。下次可以直接载入模型进行识别。

model = load_model(MODEL_PATH)for filename in glob.glob(TESTPATH+'*.png'): image = np.array(Image.open(filename))    pname = model.predict(image) str_code=filename.lstrip(TESTPATH).rstrip('.png') str_code_list = str_code.split("-") name = str_code_list[1]    if(name==toText(pname)):     ok=ok+1 else: err=err+1print("\033[1;32;43merr:"+str(err)+",ok:"+str(ok)+"\033[0m")

上述代码是识别代码


Jmeter使用方法可以参照:

以上是关于训练自己的验证码识别器的主要内容,如果未能解决你的问题,请参考以下文章

真实干货:训练自己的验证码识别模型(秘)

训练自己的验证码识别器

多任务验证码识别

阿里滑块/本地HTTP识别/阿里滑块本地识别

简单的验证码识别

利用jTessBoxEditor工具进行Tesseract3.02.02样本训练,提高验证码识别率