ON VARIATIONAL LEARNING OF CONTROLLABLEREPRESENTATIONS FOR TEXT WITHOUT SUPERVISION

Posted 2022-12-05 Facico

ON VARIATIONAL LEARNING OF CONTROLLABLEREPRESENTATIONS FOR TEXT WITHOUT SUPERVISION

CP-VAE

• 解决VAE在文本生成的过程中，在聚合后验的隐藏空间中表示中产生大量空洞区域
  • 提出一个将后验概率约数到一个简单值的方法，通过调控这个简单值来实现对隐层表示的控制
  • 同时在无监督的长句子生成中表现良好（如风格转换任务）

method

• 将模型分成两个部分：1、我们希望控制的相关因子$z^{(1)}$；2、无关因子$z^{(2)}$
  $$\begin{gathered} q_{\varphi }(z|x)\to q_{{\varphi }_1}(z^{(1)}|x)q_{{\varphi }_2}(z^{(2)}|x) \\ \varphi ={\varphi }_1\cup {\varphi }_2 \end{gathered}$$

这样结果相当于按照KL分布的对角协方差分成两个部分。

• 实际操作中，作者使用MLP生成$z^{(1)}$，LSTM生成$z^{(2)}$
• 这里只对$z^{(1)}$进行约束，$z^{(2)}$使用传统的VAE来进行训练

如何约束

• 这里要考虑如何把高斯后验的均值$\mu$约束到一个隐空间
  $$\begin{gathered} \mu =\sum _{i=1}^K{p}_i{e}_i \\ \sum _{i=1}{p}_i=1 \\ <e_i,e_j>=0i\ne j \\ {e}_i是表示相关变量的向量 \\ {p}_i是z^{(1)}中第i个相关因子的比例 \\ K是发掘多少个相关因子的超参数 \end{gathered}$$
• 所以这里相当于是把$\mu$约束到一个K维的概率空间

$$\begin{gathered} \mu =\pi (h)=E\cdot softmax(Wh+b) \\ E=[e_1,...,e_K]是一个可学习的embedding矩阵 \\ W是个映射矩阵 \\ b是偏置，h是MLP的encoder的结果 \end{gathered}$$

• 针对VAE的编码坍塌（后验坍塌，后验失效）问题（当生成网络过强时，KL loss就会被压成0，使得先验和后验相等，会使得VAE得到一个无意义的近似后验分布）。而这里提出的方法也很容易发生这种问题，因为这里几乎本可能在没有崩溃的情况下，去捕获有关的因子

这里通过强化上面的基向量的正交性哎解决这个问题
$$D_{KL}(q_{{\varphi }_1}(z^{(1)}|x)||p(z^{(1)}))=\frac{1}{2}{\mu }^{\top }\mu +\frac{1}{2}({\sigma }^{\top }-\log {\sigma }^{\top }\sigma -1)$$
通过基向量正交，上式第一项可以分解为
$${\mu }^{\top }\mu =(\sum _i{p}_i{e}_i{)}^{\top }(\sum _i{p}_i{e}_i)=\sum _i{p}_i^2{e}_i^{\top }{e}_i$$
-并在目标函数上加上正则项
$${\mathcal{L}}_{REG}(x;{\varphi }_1)=||E^{\top }E-\alpha I||$$

• 当 L R E G =

  以上是关于ON VARIATIONAL LEARNING OF CONTROLLABLEREPRESENTATIONS FOR TEXT WITHOUT SUPERVISION的主要内容，如果未能解决你的问题，请参考以下文章

  Learning Notes变分自编码（Variational Auto-Encoder，VAE）

  Hands-On Machine Learning with Scikit-Learn and TensorFlow---读书笔记

  Machine Learning on Spark

  0. Hands on Machine Learning - Outline

  Tutorials on Inverse Reinforcement Learning

  2. A Distributional Perspective on Reinforcement Learning