矩阵QR分解

Posted luofeiju

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了矩阵QR分解相关的知识,希望对你有一定的参考价值。

1 orthonormal 向量与 Orthogonal 矩阵

    orthonormal 向量定义为 技术图片,任意向量 技术图片 相互垂直,且模长为1;

    如果将  orthonormal 向量按列组织成矩阵,矩阵为 Orthogonal 矩阵,满足如下性质:

    技术图片

   当 技术图片 为方阵时,技术图片为其逆矩阵;当 技术图片 为长方形矩阵时,技术图片为其左逆;

   当矩阵 Q 为正交矩阵时,对向量变换变换前后点积不发生改变,技术图片,证明如下:

   技术图片,当 x = y 时,有 技术图片

   对任意向量 b ,可以分解为一组正交向量的线性组合,技术图片,要求解系数x,可先写成矩阵形式:

   技术图片技术图片技术图片

   因此,向量 b 可分解为 技术图片

 

2 Gram-Schmidt 与 QR 分解

   对矩阵 技术图片,可以将其转换为正交矩阵 技术图片,方法如下:

   1)向量 技术图片 方向保持不变,将其长度归一化, 技术图片

   2)向量 技术图片 可分解为向量 技术图片 投影分量与垂直于向量  技术图片 的两分量,剔除投影分量得 技术图片技术图片

   3)同理,剔除向量 技术图片 在  技术图片, 技术图片 上投影分量得 技术图片技术图片

   4)依照如上方法,可以对所有向量完成正交化。

   以上处理可以使用矩阵表示,矩阵 Q 为矩阵 A 的列进行线性变换结果,故可写为 A=QR 。

   1)向量  技术图片 与向量 技术图片 具有相同方向,故可表示为 技术图片

   2)向量 技术图片 被分解为 技术图片 方向向量,可表示为 技术图片

   3)向量 技术图片 被分解为 技术图片 方向向量,可表示为 技术图片

   4)综上表示为矩阵形式 技术图片

 

3 求解 Ax=b

   使用 Gram-Schmidt 可将矩阵 A 转换为正交矩阵 Q,正交矩阵 Q 可简化 Ax=b 运算:

   1)最小二乘法求解 技术图片

   2)带入 技术图片 得 技术图片,化简得 技术图片

   3)不管长方形矩阵还是方阵,都有 技术图片,故上式可化简为 技术图片

   4)由于 R 为上三角矩阵,使用回代法即可求解。

 

    参考资料 Linear Algebra And Its Applications   Gilbert Strang

以上是关于矩阵QR分解的主要内容,如果未能解决你的问题,请参考以下文章

QR分解与最小二乘(转载自AndyJee)

矩阵分解---QR正交分解,LU分解

机器学习中的矩阵分解LU分解QR分解SVD分解

matlab QR分解用啥算法实现的

matlab的QR分解函数QR()

矩阵QR分解