稀疏表示字典学习和压缩感知(基本概念)

Posted cjt-blog

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了稀疏表示字典学习和压缩感知(基本概念)相关的知识,希望对你有一定的参考价值。

稀疏表示与字典学习

当样本数据是一个稀疏矩阵时,对学习任务来说会有不少的好处,例如很多问题变得线性可分,储存更为高效等。这便是稀疏表示与字典学习的基本出发点。

稀疏矩阵即矩阵的每一行/列中都包含了大量的零元素,且这些零元素没有出现在同一行/列,对于一个给定的稠密矩阵,若我们能通过某种方法找到其合适的稀疏表示,则可以使得学习任务更加简单高效,我们称之为稀疏编码(sparse coding)或字典学习(dictionary learning)。

给定一个数据集,字典学习/稀疏编码指的便是通过一个字典将原数据转化为稀疏表示,因此最终的目标就是求得字典矩阵B及稀疏表示α,书中使用变量交替优化的策略能较好地求得解,再次不进行深入。

技术分享图片

压缩感知

与特征选择、稀疏表示不同的是:压缩感知关注的是通过欠采样信息来恢复全部信息。在实际问题中,为了方便传输和存储,我们一般将数字信息进行压缩,这样就有可能损失部分信息,如何根据已有的信息来重构出全部信号,这便是压缩感知的来历,压缩感知的前提是已知的信息具有稀疏表示。下面是关于压缩感知的一些背景:

技术分享图片

 

参考自:https://blog.csdn.net/u011826404/article/details/72860607

详细版请参考:https://blog.csdn.net/baidu_38060633/article/details/70338345

以上是关于稀疏表示字典学习和压缩感知(基本概念)的主要内容,如果未能解决你的问题,请参考以下文章

压缩感知进阶——有关稀疏矩阵

深度学习常见概念字典(感知机全连接层激活函数损失函数反向传播过拟合等)

深度学习常见概念字典(感知机全连接层激活函数损失函数反向传播过拟合等)

深度学习常见概念字典(感知机全连接层激活函数损失函数反向传播过拟合等)

KSVD去噪

压缩感知合集2(背景知识)信号稀疏表示的数学推导和解释理解