dimensionality reduction动机---data compression

Posted 李燕

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了dimensionality reduction动机---data compression相关的知识,希望对你有一定的参考价值。

data compression可以使数据占用更少的空间,并且能使算法提速

什么是dimensionality reduction(维数约简)

技术分享  技术分享

例1:比如说我们有一些数据,它有很多很多的features,取其中的两个features,如上图所示,一个为物体的长度用cm来度量的,一个也是物体的长度是用inches来度量的,显然这两上features是相关的,画到上图中,近似于一条直线,之所以点不在一条直线上,是因为我们在对物体测量长度是会取整(对cm进行取整,对inches进行取整),这样的就会产生误差。

在实际生活中这种情况很容易发生,如一个工程队给了你500个features,另一个工程队给了你300个features,第三个工程队给了你200个features,这样你就有1000个features,你很难知道这些features都是些什么,所以里面如果有相关的features你也不会知道,这样就会造成大量的冗余

例2:右图的例子是关于飞行员的,如我们想对飞行员进行测试,一个feature x1是飞行员的飞行技术,一个feature x2是飞行员的工作愉快程度,这两个features是相关的,我们可以用一个feature(aptitude 资质 : 对角的那条直线)而不是两个features来表示,从而将数据从二维降到了一维

将二维数据约简到一维

技术分享

 

如果我们的数据近似地在一条直线上,将数据投影到这条直线上,这样原来每个数据要用一个二维向量(x)表示它的位置,现在只需要一个实数(z)就能表示它的位置了

技术分享

以上是关于dimensionality reduction动机---data compression的主要内容,如果未能解决你的问题,请参考以下文章

dimensionality reduction动机---data compression

r [Dimensionality Reduction]用于执行PCA,SVD,聚类等的代码...

机器学习 --- 降维(Dimensionality Reduction)

数据降维(Dimensionality reduction)

Ng第十四课:降维(Dimensionality Reduction)

Stanford机器学习笔记12-Dimensionality Reduction