深度学习100例 | 第34天:数据增强-实战案例教程(必须掌握的一个点)

Posted K同学啊

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了深度学习100例 | 第34天:数据增强-实战案例教程(必须掌握的一个点)相关的知识,希望对你有一定的参考价值。

微信搜索 【K同学啊】 关注这个分享干货的博主。
📍 本文 GitHub https://github.com/kzbkzb/Python-AI 已收录,里有 Python、深度学习的资料以及我的系列文章(《深度学习100例》、《自然语言处理NLP-实例教程》、《深度学习实战案例分享》等)。

大家好,我是K同学啊!

在本教程中,你将学会如何进行数据增强,并通过数据增强用少量数据达到非常非常棒的识别准确率。

我将展示两种数据增强方式,以及如何自定义数据增强方式并将其放到我们代码当中,两种数据增强方式如下:

  • 将数据增强模块嵌入model中
  • 在Dataset数据集中进行数据增强

🚀 我的环境:

  • 语言环境:Python3.6.5
  • 编译器:jupyter notebook
  • 深度学习环境:TensorFlow2.4.1
  • 数据和代码:📌【传送门】

🚀 来自专栏:《深度学习100例》

如果你是一名深度学习小白可以先看看我这个专门为你写的专栏:《小白入门深度学习》

一、前期准备工作

设置GPU

import matplotlib.pyplot as plt
import numpy as np
#隐藏警告
import warnings
warnings.filterwarnings('ignore')

from tensorflow.keras import layers
import tensorflow as tf
gpus = tf.config.list_physical_devices("GPU")

if gpus:
    tf.config.experimental.set_memory_growth(gpus[0], True)  #设置GPU显存用量按需使用
    tf.config.set_visible_devices([gpus[0]],"GPU")

# 打印显卡信息,确认GPU可用
print(gpus)
[PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU')]

加载数据

加载数据详情如下:

  • 猫:300张
  • 狗:300张

关于 tf.keras.preprocessing.image_dataset_from_directory 的介绍,我这里就不赘述了,不明白的同学直接看这里:https://blog.csdn.net/qq_38251616/article/details/117018789

data_dir   = "./34-data/"
img_height = 224
img_width  = 224
batch_size = 32

train_ds = tf.keras.preprocessing.image_dataset_from_directory(
    data_dir,
    validation_split=0.3,
    subset="training",
    seed=12,
    image_size=(img_height, img_width),
    batch_size=batch_size)
Found 600 files belonging to 2 classes.
Using 420 files for training.
val_ds = tf.keras.preprocessing.image_dataset_from_directory(
    data_dir,
    validation_split=0.3,
    subset="training",
    seed=12,
    image_size=(img_height, img_width),
    batch_size=batch_size)
Found 600 files belonging to 2 classes.
Using 420 files for training.

由于原始数据集不包含测试集,因此需要创建一个。使用 tf.data.experimental.cardinality 确定验证集中有多少批次的数据,然后将其中的 20% 移至测试集。

val_batches = tf.data.experimental.cardinality(val_ds)
test_ds     = val_ds.take(val_batches // 5)
val_ds      = val_ds.skip(val_batches // 5)

print('Number of validation batches: %d' % tf.data.experimental.cardinality(val_ds))
print('Number of test batches: %d' % tf.data.experimental.cardinality(test_ds))
Number of validation batches: 12
Number of test batches: 2

一共有猫、狗两类

class_names = train_ds.class_names
print(class_names)
['cat', 'dog']
AUTOTUNE = tf.data.AUTOTUNE

def preprocess_image(image,label):
    return (image/255.0,label)

# 归一化处理
train_ds = train_ds.map(preprocess_image, num_parallel_calls=AUTOTUNE)
val_ds   = val_ds.map(preprocess_image, num_parallel_calls=AUTOTUNE)
test_ds  = test_ds.map(preprocess_image, num_parallel_calls=AUTOTUNE)

train_ds = train_ds.cache().prefetch(buffer_size=AUTOTUNE)
val_ds   = val_ds.cache().prefetch(buffer_size=AUTOTUNE)
plt.figure(figsize=(15, 10))  # 图形的宽为15高为10

for images, labels in train_ds.take(1):
    for i in range(8):
        
        ax = plt.subplot(5, 8, i + 1) 
        plt.imshow(images[i])
        plt.title(class_names[labels[i]])
        
        plt.axis("off")

二、数据增强

我们可以使用 tf.keras.layers.experimental.preprocessing.RandomFliptf.keras.layers.experimental.preprocessing.RandomRotation 进行数据增强

  • tf.keras.layers.experimental.preprocessing.RandomFlip:水平和垂直随机翻转每个图像。
  • tf.keras.layers.experimental.preprocessing.RandomRotation:随机旋转每个图像
data_augmentation = tf.keras.Sequential([
  tf.keras.layers.experimental.preprocessing.RandomFlip("horizontal_and_vertical"),
  tf.keras.layers.experimental.preprocessing.RandomRotation(0.2),
])

第一个层表示进行随机的水平和垂直翻转,而第二个层表示按照 0.2 的弧度值进行随机旋转。

# Add the image to a batch.
image = tf.expand_dims(images[i], 0)
plt.figure(figsize=(8, 8))
for i in range(9):
    augmented_image = data_augmentation(image)
    ax = plt.subplot(3, 3, i + 1)
    plt.imshow(augmented_image[0])
    plt.axis("off")

更多是数据增强方式可以参考:https://www.tensorflow.org/api_docs/python/tf/keras/layers/RandomRotation

三、增强方式

方法一:将其嵌入model中

model = tf.keras.Sequential([
  data_augmentation,
  layers.Conv2D(16, 3, padding='same', activation='relu'),
  layers.MaxPooling2D(),
])

这样做的好处是:

  • 数据增强这块的工作可以得到GPU的加速(如果你使用了GPU训练的话)

注意:只有在模型训练时(Model.fit)才会进行增强,在模型评估(Model.evaluate)以及预测(Model.predict)时并不会进行增强操作。

方法二:在Dataset数据集中进行数据增强

batch_size = 32
AUTOTUNE = tf.data.AUTOTUNE

def prepare(ds):
    ds = ds.map(lambda x, y: (data_augmentation(x, training=True), y), num_parallel_calls=AUTOTUNE)
    return ds
train_ds = prepare(train_ds)

四、训练模型

model = tf.keras.Sequential([
  layers.Conv2D(16, 3, padding='same', activation='relu'),
  layers.MaxPooling2D(),
  layers.Conv2D(32, 3, padding='same', activation='relu'),
  layers.MaxPooling2D(),
  layers.Conv2D(64, 3, padding='same', activation='relu'),
  layers.MaxPooling2D(),
  layers.Flatten(),
  layers.Dense(128, activation='relu'),
  layers.Dense(len(class_names))
])

在准备对模型进行训练之前,还需要再对其进行一些设置。以下内容是在模型的编译步骤中添加的:

  • 损失函数(loss):用于衡量模型在训练期间的准确率。
  • 优化器(optimizer):决定模型如何根据其看到的数据和自身的损失函数进行更新。
  • 评价函数(metrics):用于监控训练和测试步骤。以下示例使用了准确率,即被正确分类的图像的比率。
model.compile(optimizer='adam',
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
              metrics=['accuracy'])

开始训练~

epochs=20
history = model.fit(
  train_ds,
  validation_data=val_ds,
  epochs=epochs
)
Epoch 1/20
14/14 [==============================] - 4s 58ms/step - loss: 1.3732 - accuracy: 0.5048 - val_loss: 0.6911 - val_accuracy: 0.5028
Epoch 2/20
14/14 [==============================] - 1s 23ms/step - loss: 0.6925 - accuracy: 0.5119 - val_loss: 0.6827 - val_accuracy: 0.6461
Epoch 3/20
14/14 [==============================] - 1s 21ms/step - loss: 0.6706 - accuracy: 0.6167 - val_loss: 0.6550 - val_accuracy: 0.5534
Epoch 4/20
14/14 [==============================] - 1s 22ms/step - loss: 0.6201 - accuracy: 0.6881 - val_loss: 0.5987 - val_accuracy: 0.6657
Epoch 5/20
14/14 [==============================] - 1s 22ms/step - loss: 0.5457 - accuracy: 0.7119 - val_loss: 0.5306 - val_accuracy: 0.7500
Epoch 6/20
14/14 [==============================] - 1s 22ms/step - loss: 0.4634 - accuracy: 0.8048 - val_loss: 0.4771 - val_accuracy: 0.7949
Epoch 7/20
14/14 [==============================] - 1s 21ms/step - loss: 0.4127 - accuracy: 0.8095 - val_loss: 0.4138 - val_accuracy: 0.8202
Epoch 8/20
14/14 [==============================] - 1s 21ms/step - loss: 0.3503 - accuracy: 0.8452 - val_loss: 0.3851 - val_accuracy: 0.8202
Epoch 9/20
14/14 [==============================] - 1s 22ms/step - loss: 0.3475 - accuracy: 0.8476 - val_loss: 0.3415 - val_accuracy: 0.8567
Epoch 10/20
14/14 [==============================] - 1s 22ms/step - loss: 0.3212 - accuracy: 0.8619 - val_loss: 0.2423 - val_accuracy: 0.9017
Epoch 11/20
14/14 [==============================] - 1s 21ms/step - loss: 0.3060 - accuracy: 0.8643 - val_loss: 0.2692 - val_accuracy: 0.9073
Epoch 12/20
14/14 [==============================] - 1s 22ms/step - loss: 0.2726 - accuracy: 0.8762 - val_loss: 0.2785 - val_accuracy: 0.8708
Epoch 13/20
14/14 [==============================] - 1s 22ms/step - loss: 0.2387 - accuracy: 0.9119 - val_loss: 0.2382 - val_accuracy: 0.8961
Epoch 14/20
14/14 [==============================] - 1s 23ms/step - loss: 0.2174 - accuracy: 0.9238 - val_loss: 0.1613 - val_accuracy: 0.9382
Epoch 15/20
14/14 [==============================] - 1s 23ms/step - loss: 0.2252 - accuracy: 0.9214 - val_loss: 0.1615 - val_accuracy: 0.9438
Epoch 16/20
14/14 [==============================] - 1s 21ms/step - loss: 0.1929 - accuracy: 0.9286 - val_loss: 0.1290 - val_accuracy: 0.9466
Epoch 17/20
14/14 [==============================] - 1s 22ms/step - loss: 0.1443 - accuracy: 0.9452 - val_loss: 0.1605 - val_accuracy: 0.9466
Epoch 18/20
14/14 [==============================] - 1s 21ms/step - loss: 0.1950 - accuracy: 0.9071 - val_loss: 0.1218 - val_accuracy: 0.9551
Epoch 19/20
14/14 [==============================] - 1s 21ms/step - loss: 0.1546 - accuracy: 0.9524 - val_loss: 0.1238 - val_accuracy: 0.9663
Epoch 20/20
14/14 [==============================] - 1s 22ms/step - loss: 0.1298 - accuracy: 0.9548 - val_loss: 0.1093 - val_accuracy: 0.9579
loss, acc = model.evaluate(test_ds)
print("Accuracy", acc)
2/2 [==============================] - 0s 15ms/step - loss: 0.0521 - accuracy: 1.0000
Accuracy 1.0

五、自定义增强函数

import random
# 这是大家可以自由发挥的一个地方
def aug_img(image):
    seed = (random.randint(0,9), 0)
    # 随机改变图像对比度
    stateless_random_brightness = tf.image.stateless_random_contrast(image, lower=0.1, upper=1.0, seed=seed)
    return stateless_random_brightness
image = tf.expand_dims(images[3]*255, 0)
print("Min and max pixel values:", image.numpy().min(), image.numpy().max())
Min and max pixel values: 14.000048 253.28577
plt.figure(figsize=(8, 8))
for i in range(9):
    augmented_image = aug_img(image)
    ax = plt.subplot(3, 3, i + 1)
    plt.imshow(augmented_image[0].numpy().astype("uint8"))

    plt.axis("off")

那么如何将自定义增强函数应用到我们数据上呢?请参考上文的 preprocess_image 函数,将 aug_img 函数嵌入到 preprocess_image 函数中,在数据预处理时完成数据增强就OK啦。

以上是关于深度学习100例 | 第34天:数据增强-实战案例教程(必须掌握的一个点)的主要内容,如果未能解决你的问题,请参考以下文章

深度学习100例 | 第33天:迁移学习-实战案例教程(必须掌握的一个点)

深度学习100例 | 第33天:迁移学习-实战案例教程(必须掌握的一个点)

深度学习100例 | 第43天:文本卷积神经网络(TextCNN)新闻文本分类实战

深度学习100例 | 第43天:文本卷积神经网络(TextCNN)新闻文本分类实战

深度学习100例-卷积神经网络(CNN)彩色图片分类 | 第2天

深度学习100例 | 第27天-卷积神经网络(CNN):艺术作品识别