生成对抗网络发展及其主要工程应用综述

Posted 2022-02-12 卓晴

简 介： 生成对抗网络利用博弈的思想训练出生成器用来生成数据，是近几年的热点研究领域。本文对基本的生成对抗网络模型进行介绍，概述了生成对抗网络这一概念提出以来得到的发展，列举了几个不同变种的生成对抗网络和对网络训练不同细节的优化和研究。对生成对抗网络在各个工程领域的应用进行了概述，并对本文所述内容进行总结。

关键词： 生成对抗网络，发展概述，模型训练，深度学习，模型优化，**
**

 

§01 引  言

---

  近几年人工智能发展迅速，神经网络从最初简单的人工神经网络发展到现在各式各样的深度神经网络，在各个领域得到了一些列应用。

  生成对抗网络是神经网络发展的产物，也是近几年深度学习中较为活跃的领域，它实际上是利用了博弈的思想优化生成器，再在完成训练后复用生成器生成数据。

  本文对生成对抗网络模型的出现、近几年的发展和其在工程上的主要应用进行综述，以对生成对抗网络的整体发展脉络有总体的把握和了解。

 

§01 生成对抗网络

---

  此部分对 2014年 Ian Goodfellow提出的最基本生成对抗网络 [1]结构进行介绍，并对生成对抗网络的优缺点和发展现状进行介绍。生成对抗网络模型实质上是一个生成模型，用来做一个生成器生成数据。

1.1算法流程

  生成对抗网络包括一个生成器 G(z)和一个判别器 D(x)，生成器输入噪声 z，输出生成的数据；判别器输入生成的样本或真实的样本，输入生成样本后期望得到的输出趋于 0，输入真实样本后期望得到的输出趋于 1。训练中的目标函数为：

$\underset{G}{\min }\underset{D}{\max }V\left(D,G\right)=E_{x-P_{data}\left(x\right)}\left[\log D\left(x\right)\right]+E_{z-P_z\left(z\right)}\left[\log \left(1-D\left(D\left(z\right)\right)\right)\right]$

  上式的训练目的对于生成器是使其趋向能生成逼真的数据，对于判别器是使其能趋向精确判别真实数据和生成数据。交替训练生成器和判别器，理想情况下训练结果能达到一个平衡状态，在此平衡状态下，生成器生成的数据和可以很好地冒充真实数据，判别器在性能很优秀的情况下，不能分辨出真实数据和生成器生成数据，即生成器能骗过判别器输出以假乱真的数据。

  生成对抗网络的结构如图 1所示，图中生成器的输入 z可以是一个向量，可以是一个随机初始化的噪声或有监督的初始特征向量，该向量每一维代表一个特征，生成器可以是神经网络或者一个函数，输出的数据可以是图像或其他高维数据。图中，判别器输入生成数据和真实数据，输出一个标量，该标量越大表示该输入数据越真实，标量越小表示输入数据越假。

▲ 生成对抗网络结构

  训练完后复用生成器来生成所需要的数据，可以作为一种数据增强的手段。

1.2优点

  无监督学习，不需要对样本进行标注，生成器的更新不是直接来自于真实数据样本，而是来自于判别器的反向传播。模型只需要用到反向传播，而不需要用到马尔科夫链。训练时不需要推断隐变量。理论上可微分函数均可用于构造生成器或判别器。

1.3缺点

  模型难训练，很难达到一个生成器和判别器均优的结果，且深度网络的可解释性差，无法得到生成器的分布函数。

 

§02 发展历程

---

  自生成对抗网络被提出以来，学术界相继提出了一系列变种的生成对抗网络。

2.1条件生成对抗网络 CGAN

  Mehdi Mirza和 Simon Osindero在 2014年提出了条件生成对抗网络 CGAN[2]。
  CGAN是在生成对抗网络基础上做的改进，其在生成器和判别器的输入中添加了带有标签或样本碎片的数据作为生成条件，来实现条件生成。

  CGAN的模型结构如图 2[2]所示。相比于普通的生成对抗网络， CGAN的判别器输入除了生成的和真实的图像数据外，还拼接了图像的类别标签或其他条件； CGAN的生成器输入除了向量 z外，也拼接了图像的类别标签或其他条件。生成器和判别器的输出与普通的对抗生成网络模型相同。