(转)机器学习之SVD分解

Posted 7岁

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了(转)机器学习之SVD分解相关的知识,希望对你有一定的参考价值。

一、SVD奇异值分解的定义

    假设技术分享是一个技术分享的矩阵,如果存在一个分解:

技术分享

其中技术分享技术分享的酉矩阵,技术分享技术分享的半正定对角矩阵,技术分享技术分享的共轭转置矩阵,且为技术分享的酉矩阵。这样的分解称为技术分享的奇异值分解,技术分享对角线上的元素称为奇异值,技术分享称为左奇异矩阵,技术分享称为右奇异矩阵。

二、SVD奇异值分解与特征值分解的关系

    特征值分解与SVD奇异值分解的目的都是提取一个矩阵最重要的特征。然而,特征值分解只适用于方阵,而SVD奇异值分解适用于任意的矩阵,不一定是方阵。

技术分享

 

技术分享 

这里,技术分享技术分享是方阵,技术分享技术分享为单位矩阵,技术分享技术分享的特征向量,技术分享技术分享的特征向量。技术分享技术分享的特征值为技术分享的奇异值的平方。

三、SVD奇异值分解的作用和意义

    奇异值分解最大的作用就是数据的降维,当然,还有其他很多的作用,这里主要讨论数据的降维,对于技术分享的矩阵技术分享,进行奇异值分解
技术分享
取其前技术分享个非零奇异值,可以还原原来的矩阵技术分享,即前技术分享个非零奇异值对应的奇异向量代表了矩阵技术分享的主要特征。可以表示为
技术分享
 

以上是关于(转)机器学习之SVD分解的主要内容,如果未能解决你的问题,请参考以下文章

机器学习之学习路线

机器学习(十七)— SVD奇异值分解

机器学习中的矩阵方法04:SVD 分解

数学推导+纯Python实现机器学习算法28:奇异值分解SVD

机器学习中的矩阵分解LU分解QR分解SVD分解

[机器学习笔记]奇异值分解SVD简介及其在推荐系统中的简单应用