变分自编码器：原来是这么一回事

Posted 2020-10-29 FDU大学渣——海疯习习

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了变分自编码器：原来是这么一回事相关的知识，希望对你有一定的参考价值。

链接：https://kexue.fm/archives/5253

分布变换

通常我们会拿VAE跟GAN比较，的确，它们两个的目标基本是一致的——希望构建一个从隐变量 $Z$

生成模型的难题就是判断生成分布与真实分布的相似度，因为我们只知道两者的采样结果，不知道它们的分布表达式

那现在假设 $Z$ 有读者说不是有KL散度吗？当然不行，因为KL散度是根据两个概率分布的表达式来算它们的相似度的，然而目前我们并不知道它们的概率分布的表达式，我们只有一批从构造的分布采样而来的数据{ ${\hat{X}}_{1} = g (Z_{1}), {\hat{X}}_{2} = g (Z_{2}), \dots, {\hat{X}}_{n} = g (Z_{n})$ ${{\hat{X}}_{1}, {\hat{X}}_{2}, \dots, {\hat{X}}_{n}}$

${{\hat{X}}_{1}, {\hat{X}}_{2}, \dots, {\hat{X}}_{n}}$

VAE慢谈

这一部分我们先回顾一般教程是怎么介绍VAE的，然后再探究有什么问题，接着就自然地发现了VAE真正的面目。

经典回顾

${\hat{X}}_{1} = g (Z_{1}), {\hat{X}}_{2} = g (Z_{2}), \dots, {\hat{X}}_{n} = g (Z_{n})$ ${\hat{X}}_{1} = g (Z_{1}), {\hat{X}}_{2} = g (Z_{2}), \dots, {\hat{X}}_{n} = g (Z_{n})$

${\hat{X}}_{1} = g (Z_{1}), {\hat{X}}_{2} = g (Z_{2}), \dots, {\hat{X}}_{n} = g (Z_{n})$

这里我们就不区分求和还是求积分了，意思对了就行。此时 $p (X | Z)$

VAE 变分自编码器

变分自编码器解析

一文搞懂变分自编码器(VAE, CVAE)

机器学习-白板推导系列(三十二)-变分自编码器(VAE，Variational AutoEncoder)

论文泛读71变分自编码器