小白入门深度学习 | 第三篇：深度学习初体验

Posted 2021-08-27 K同学啊

文章目录

• 一、深度学习是什么
• 二、实现过程
• • 1. 准备数据
  • 2. 构建神经网络模型
  • 3. 编译模型
  • 4. 训练模型
  • 5. 预测
• 三、总结
• 课后练手项目（附代码+讲解）

---

🚀 我的环境：

• 语言环境：Python3.6.5
• 编译器：Jupyter Notebook
• 深度学习环境：TensorFlow2.4.1

🚀 往期内容：

1. 小白入门深度学习 | 第一篇：配置深度学习环境
2. 小白入门深度学习 | 第二篇：编译器的使用-Jupyter Notebook

🚀 本文选自专栏：《小白入门深度学习》
🚀 推荐精品专栏：《夜深人静写算法》

---

一、深度学习是什么

深度学习（DL, Deep Learning）是机器学习（ML, Machine Learning）领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能(AI, Artificial Intelligence)。–引自百度百科

深度学习（deep learning）是机器学习的分支，是一种以人工神经网络为架构，对资料进行表征学习的算法。–引自维基百科

“深度学习”这四个字拆解成两个词就是“深度”和“学习”。“学习”大概是我们学生时代接触最频繁的词，那时候的学习就是上课、做题，最终通过考试。如果更抽象一点描述，学习就是认知的过程，从未知到已知的探索与思考过程。最早的学习，1+1=2，想想我们是怎么学习的？伸出一只手指，再伸出一只手指，数一数，两只手指那就是2。

这里定义一个概念，输入和输出，输入就是已知的信息，输出就是由输入获得的认知的结果。我们将一个从已有的信息，通过计算、判断和推理得到结果的认知过程统称为“学习”。

如何让机器也可以进行学习呢？学术界为此提出了“神经网络”的概念。人脑中负责活动的基本单元是神经元，这些神经元互相连接成一个被称为神经网络的庞大结构。由此，学术界模仿人脑“神经网络“建立一个人工神经网络（ANN），我们通常也简称为神经网络。

将1+1=2用神经网络可以表示为如下结构。

我们将“1”、“+”、“1”与“2”同时作为输入不断训练神经网络（不断告诉机器1+1=2），在训练若干次后，神经网络将会学会“1+1=2”。同样的，我们将1+2=3放入神经网络中去，不断进行训练，若干次后神经网络也将学会1+2=3。如此循环往复，我们可以教会神经网络进行加法运算，进而可以让神经网络学会算术运算，我们把这个过程称为深度学习。

深度学习在生活中的应用不仅仅局限于此，在自动驾驶、语音识别、自动机器翻译、即时视觉翻译（拍照翻译）、目标识别等等领域也都有重要应用，例如：手机上的小爱同学、地铁口的人脸识别…

下面我将通过对 MNIST 手写数字的识别进一步讲解深度学习，带领大家体验一次完整的深度学习实现的全过程。

假设现在我们手上很多张手写的数字图片，需要通过深度学习让机器“认识”这些图片上的数字，然后告诉我们每一张图片上的数字是多少。

那么我们应该如何实现呢？总体的思路如下：

• 我们先拿出 6 万张图片给机器进行学习（需要告诉机器每一个图片上写的是哪一个数字）。
• 在学习后，再拿出1万张机器没“见过”的图片给它进行识别，让它告诉我们，图片上写的是哪一个数字。
• 重复上面的过程，直到机器可以认识手写的数字。

至此，完成便可实现手写数字识别这一效果。

二、实现过程

程序执行步骤：

• ① 学习6万张图片上的数字
• ② 用1万张图片测试机器的学习效果（这1万张不参与①的训练）
• ③ 重复①、②

使用的编译器为Jupyter Notebook，如果你不太熟，可以先看看前面的文章：【小白入门深度学习 | 第二篇：编译器的使用-Jupyter Notebook】

如果你对下面的代码不是很理解，没有关系的，后面的文章中我会对每个部分展开更详细的解释。现在你需要做的是：了解每一个模块实现的功能，从整体上把握整份代码。

1. 准备数据

导入数据

import tensorflow as tf
from tensorflow.keras import datasets, layers, models

# 加载数据集
(train_images, train_labels), (test_images, test_labels) = datasets.mnist.load_data()

# 输出数据形状
train_images.shape, test_images.shape

((60000, 28, 28), (10000, 28, 28))

准备好 6 万张带有标签的训练图片让机器进行学习。1 万张测试图片让机器进行识别，测试其是否学会了。(60000, 28, 28) 表示为：60000 张 28*28 像素的图片。

可视化

这里我们用第三方库 matplotlib 输出手写数字图片，看看我们的手写数字（数据集）是什么样子的。

import matplotlib.pyplot as plt

# 设置窗口大小为 20*12 单位英寸
plt.figure(figsize=(20,12))

for i in range(20):
    # 设置子图行数为5，列数为10，i+1表示第几个子图
    plt.subplot(5,10,i+1)
    
    # 去掉坐标轴刻度
    plt.xticks([])
    plt.yticks([])
    
    # 显示图片
    plt.imshow(train_images[i], cmap=plt.cm.binary)
    # 显示标签
    plt.xlabel(train_labels[i])
plt.show()

调整图片格式

需要将图片调整为特定格式程序才可以进行学习

#调整数据到我们需要的格式
train_images = train_images.reshape((60000, 28, 28, 1))
test_images  = test_images.reshape((10000, 28, 28, 1))

# 输出数据sahpe
train_images.shape,test_images.shape,train_labels.shape,test_labels.shape

((60000, 28, 28, 1), (10000, 28, 28, 1), (60000,), (10000,))

(60000, 28, 28, 1)：表示为：60000张 28*28 的灰度图片，最后一个数字为1时，代表灰度图片；为3时代表彩色图片。

2. 构建神经网络模型

我们将图片输入到网络，图片首先会将其数字化，紧接着通过卷积层提取图片上这个数字的特征，最后通过数字的特征判断这个数字是哪一个。结构图如下：

上面的结构图中，向我们展示了五层结构，那么每一层具体是用来做什么的呢？

• 输入层：用于将数据输入到神经网络
• 卷积层：使用卷积核提取图片特征，卷积核相当于一个小型的“特征提取器”
• Flatten层：将多维的输入一维化，常用在卷积层到全连接层的过渡
• 全连接层：起到“特征提取器”的作用
• 输出层：输出结果

卷积核与全连接层从某些方面上讲都有提取特征的作用，但是所采用的方法是不同的。

这部分为深度学习的核心内容，我将在第四部分（构建模型）重点向大家进行更详细深入的讲解，现在我们主要任务是跑通整个程序，从整体上了解一下深度学习是什么。

model = models.Sequential([    # 
    layers.Conv2D(32, (3, 3), input_shape=(28, 28, 1)), # 卷积层：提取图片特征
    layers.Flatten(),         # Flatten层：将二维图片压缩为一维形式
    layers.Dense(100),        # 全连接层：将特征进行进一步压缩
    layers.Dense(10)          # 输出层：输出结果
])

# 打印网络结构
model.summary()

Model: "sequential"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
conv2d (Conv2D)              (None, 26, 26, 32)        320       
_________________________________________________________________
flatten (Flatten)            (None, 21632)             0         
_________________________________________________________________
dense (Dense)                (None, 100)               2163300   
_________________________________________________________________
dense_1 (Dense)              (None, 10)                1010      
=================================================================
Total params: 2,164,630
Trainable params: 2,164,630
Non-trainable params: 0
_________________________________________________________________

3. 编译模型

在这一步，我们需要设置模型的优化器，损失函数、评价函数：

• 优化器：帮助模型更好的训练
• 损失函数：用于估量预测值与真实值的不一致程度
• 评价函数：评价模型的质量

model.compile(optimizer='adam',      # adam是优化器的一种
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True), # 损失函数的一种计算方法
              metrics=['accuracy'])  #采用准确率来评价模型

4. 训练模型

将数据传入模型进行训练，传入的数据分为训练数据、验证数据两部分。训练数据（训练集）用于训练模型，验证数据（验证集）用于监测模型的效果。epochs 表示模型的学习轮数（次数）。

"""
train_images   ：训练数据的图片
train_labels   ：训练图片对应的标签
epochs         ：训练轮数
validation_data：验证数据
"""
history = model.fit(train_images, train_labels, epochs=3, 
                    validation_data=(test_images, test_labels))

Epoch 1/3
1875/1875 [==============================] - 39s 20ms/step - loss: 32.1691 - accuracy: 0.8110 - val_loss: 1.1053 - val_accuracy: 0.8700
Epoch 2/3
1875/1875 [==============================] - 42s 22ms/step - loss: 0.8161 - accuracy: 0.8832 - val_loss: 0.5099 - val_accuracy: 0.8955
Epoch 3/3
1875/1875 [==============================] - 36s 19ms/step - loss: 0.4562 - accuracy: 0.8920 - val_loss: 0.4225 - val_accuracy: 0.8843

5. 预测

# 打印我们想要进行预测的图片
plt.imshow(test_images[1])

<matplotlib.image.AxesImage at 0x14695a3cfd0>

输出测试集中第一张图片的预测数组

pre = model.predict(test_images)
pre[1]

array([ 12.474585 ,   1.1173537,  21.654232 ,  16.206923 , -10.989567 ,
        17.235504 ,  19.404213 , -22.553476 ,  13.221286 , -10.19972  ],
      dtype=float32)

这组浮点数对应着0~9，最大的浮点数对应着的数字就是神经网络的预测结果。

import numpy as np

# 输出预测结果
pre_num = np.argmax(pre[1])
print("模型的预测结果为：",pre_num)

模型的预测结果为： 2

三、总结

我们通过算术学习、MNIST手写数字识别了解了什么是深度学习，也用TensorFlow2实现了MNIST手写数字识别，从整体上了解了一个深度学习程序是什么样子的，应该有哪些步骤。在接下来的文章中我们逐一详细了解深度学习每一个部分的内容。

课后练手项目（附代码+讲解）

🚀 卷积神经网络篇：

1. 深度学习100例-卷积神经网络（CNN）实现mnist手写数字识别 | 第1天
2. 深度学习100例-卷积神经网络（CNN）彩色图片分类 | 第2天
3. 深度学习100例-卷积神经网络（CNN）服装图像分类 | 第3天
4. 深度学习100例-卷积神经网络（CNN）花朵识别 | 第4天
5. 深度学习100例-卷积神经网络（CNN）天气识别 | 第5天
6. 深度学习100例-卷积神经网络（VGG-16）识别海贼王草帽一伙 | 第6天
7. 深度学习100例-卷积神经网络（VGG-19）识别灵笼中的人物 | 第7天
8. 深度学习100例-卷积神经网络（ResNet-50）鸟类识别 | 第8天
9. 深度学习100例-卷积神经网络（AlexNet）手把手教学 | 第11天
10. 深度学习100例-卷积神经网络（CNN）识别验证码 | 第12天
11. 深度学习100例-卷积神经网络（Inception V3）识别手语 | 第13天
12. 深度学习100例-卷积神经网络（Inception-ResNet-v2）识别交通标志 | 第14天
13. 深度学习100例-卷积神经网络（CNN）实现车牌识别 | 第15天
14. 深度学习100例-卷积神经网络（CNN）识别神奇宝贝小智一伙 | 第16天
15. 深度学习100例-卷积神经网络（CNN）注意力检测 | 第17天

🚀 循环神经网络篇：

1. 深度学习100例-循环神经网络（RNN）实现股票预测 | 第9天
2. 深度学习100例-循环神经网络（LSTM）实现股票预测 | 第10天

🚀 循环神经网络篇：

1. 深度学习100例-生成对抗网络（GAN）手写数字生成 | 第18天

未完～

持续更新 欢迎 点赞👍、收藏⭐、关注👀

• 点赞👍：点赞给我持续更新的动力
• 收藏⭐️：收藏后你能够随时找到文章
• 关注👀：关注我第一时间接收最新文章