自编码器----Autoencoder

Posted lee-yl

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了自编码器----Autoencoder相关的知识,希望对你有一定的参考价值。

一、自编码器:降维【无监督学习】

PCA简介:【线性】原矩阵乘以过渡矩阵W得到新的矩阵,原矩阵和新矩阵是同样的东西,只是通过W换基。

技术分享图片

 

自编码:

技术分享图片

 

自编码和PCA的区别:

由于神经网络能够学习非线性关系,因此可以认为这是PCA更有力(非线性)的泛化。而PCA试图发现描述原始数据的低维超平面,自编码器则能够学习非线性流形(流形为连续的非交叉的曲面)。这两种方法之间的区别如下图所示。

技术分享图片

自编码还原的结果比PCA清晰。

 

技术分享图片

 而两者的重点是要拿到比较好的30维code。

技术分享图片

二、降噪自编码【加噪声】

技术分享图片

三、CNN、DNN、RBM、DBN来实现自编码:

 技术分享图片技术分享图片

以上是关于自编码器----Autoencoder的主要内容,如果未能解决你的问题,请参考以下文章

自编码器 Autoencoder

机器学习-白板推导系列(三十二)-变分自编码器(VAE,Variational AutoEncoder)

深度学习笔记十二:自编码器AutoEncoder

深度学习笔记十二:自编码器AutoEncoder

TensorFlow实现去噪自编码器(Denoising Autoencoder)

深度学习--自编码器(AutoEncoder)