Virtual Adversarial Training(VAT)

Posted 2022-12-12 Facico

Virtual Adversarial Training:A Regularization Method for Supervised and Semi-Supervised Learnimg

对抗训练

Goodfellow对对抗训练损失函数定义如下
$$\begin{gathered} L_{adv}(x_l,\theta )=D[q(y|x_l),p(y|x_l+r_{adv},\theta )] \\ where{r}_{adv}=argmaxD[q(y|x_l),p(y|x_l+r_{adv},\theta )] \end{gathered}$$

• D是衡量两个分布相似度的函数，$q(y|x_l)$是样本即真实分布，$p(y|x_l,\theta )$是由参数和$x_l$生成的预测分布
• 通过加入扰动$r_{adv}$来使得两个分部尽量相似

这样对抗的可行性

• 因为很多网络被设计得十分“线性”，像LSTM这样的，对x的每个维度都做微小扰动，当x的维度变大的时候，会对网络造成较大的影响。
• 网络的线性，使得高阶导近似0，taylor展开后占主导的是线性的部分，所以用来干扰的主要就是对抗样本中线性的部分

线性估计

• 优化这个loss很难，我们使用线性估计的方法，找到最近似的扰动，当是L2正则的时候

$$\begin{gathered} r_{adv}\approx ϵ\frac{g}{||g|{|}^2} \\ whereg={\nabla }_{x_l}D[h(y;y_l),p(y|x_l,\theta )] \end{gathered}$$
当是$L_{\infty }$时，$r_{adv}\approx ϵsign(g)$

• 这个扰动现在相当于是，模型最容易犯错误的方向，用梯度来估计‘

大问题

• AT(adversarial training)是在supervise的，就是没有样本不行。
• 所以论文寻求semi-supervised的方法

VAT

• 我们要找的这个方向就是最大程度影响模型决策的方向，在VAT中，我们不需要label，只需要virtual label

我们假设：当label训练足够多之后，会接近真实label分布

• 所以我们将$q(y|x_{\ast })$用预测结果$p(y|x_{\ast },\hat{\theta })$代替(此处$x_{\ast }$表示可以是有label的，也可以是没label的)

$$\begin{gathered} LDS(x_{\ast },\theta )=D[p(y|x_{\ast },\hat{\theta }),p(y|x_{\ast }+r_{vadv},\theta )] \\ {r}_{vadv}=arg\underset{r;||r|{|}_2\ge ϵ}{\max }D[p(y|x_{\ast },\hat{\theta }),p(y|x_{\ast }+r)] \end{gathered}$$

• LDS(local distributional smoothness)：LDS定义为衡量当前基于每个输入数据的模型的平滑度的负函数，当LDS减少，模型在每个数据点会变得更平滑。

我们将损失函数正则化如下(有标签的和没标签label的求均值unlabel)
$$R_{vadv}(D_l,D_{ul},\theta )=\frac{1}{N_l+N_{ul}}\sum _{x_{\ast }\in D_l,D_{ul}}LDS(x_{\ast },\theta )$$

最终的目标函数为
l ( D l , θ ) + α R v a d v ( D l , D u l , θ ) l(D_l,\\theta)+\\alpha R_vadv(D_l,D_ul,\\theta) l(Dl​,θ)+αRvadv​(DAdversarial Faces

cs231n spring 2017 lecture16 Adversarial Examples and Adversarial Training 听课笔记

Generative Adversarial Nets 论文翻译

Adversarial training

生成对抗网络（Generative Adversarial Network，GAN）

AI-Adversarial Search