线性代数正定矩阵及其最小值

Posted 2021-03-21 fantianliang

一、说明

　　本博客讲述内容根据MIT线性代数第二十八课归纳而成。

　　MIT线性代数链接：http://open.163.com/newview/movie/courseintro?newurl=%2Fspecial%2Fopencourse%2Fdaishu.html

 

二、主要讲述问题

　　1-如何判断一个矩阵是正定矩阵

　　2-正定矩阵的最小值

　　3-正定矩阵的几何解释

三、如何判断一个矩阵是正定矩阵

　　1-首先我们需要明确一个概念-正定矩阵

　　一个矩阵是正定矩阵，那么必须要满足以下的关系

　　(1)它必须是一个nXn的方阵（我们用符号A来表示）

　  （2）对于任意的一个向量x（不是每一个元素都是0）,  都必须满足这样的一个条件：$x^{T}Ax>0$

　　2-正定矩阵具有的特点（这个可以参考第二十六课内容，如果有时间我会补充）

　　（1）它的所有的主元都必须是大于0的

　　（2）它的所有的特征值都是大于0的（实际上，特征值和主元的符号是相同的，比如，如果主元有三个正的，两个负的，那么特征值也是这样）

　　（3）它的所有的子行列式都是大于0的。

　　至于什么是子行列式，我们可以看一下下面的例子：

　　对于一个矩阵：　　

　　$egin{bmatrix}2 & 3 & 1\ 0 & 2 & 2\  1 & 1 & 1end{bmatrix}$

　   那么它的子行列式有：$egin{bmatrix}2end{bmatrix}$, 

        $egin{bmatrix}2 & 3\ 0& 2end{bmatrix}$

　　$egin{bmatrix} 2 & 3 & 1\ 0 & 2 & 2\  1 & 1 & 1end{bmatrix}$

　　3-如何判断

　　根据上面的条件，那么自然而然就知道如何判断一个矩阵是不是正定矩阵：

　　（1）只有所有的主元都是正的，那么这个矩阵是正定矩阵

　　（2）所有的特征值是正的，那么这个矩阵是正定矩阵

　　（3）这个矩阵的所有子行列式是正的，那么这个矩阵是正定矩阵

　　（4）如果对于矩阵A, $x^{T}Ax>0$ （这个是根据定义式出发）

　　4-一个例子

　　对于一个二阶矩阵$egin{bmatrix}a & b\ c & dend{bmatrix}$，那么下面的四个条件都可以判断：

　　(1) $lambda _{1}>0, lambda _{2}>0$

　　(2) $a>0, frac{ac-bd}{a}>0$

　 （3）$a>0, ac-bd>0$

　　(4)  $x^{T}Ax>0$ 

　　如下面一个矩阵：$egin{bmatrix}2 & 6\ 6 & 18end{bmatrix}$

　　我们可以看到，第一列和第二列存在一个倍数的关系，所以这是一个奇异矩阵。

　　奇异矩阵一定有一个特征值是0， 另外一个特征值就等于迹减去这个特征值（这里是根据特征值之和等于主对角线的元素之和，也就是迹）

　　所以另外一个特征值是：20。

　　可以看到，一个特征值是0，另外一个特征值大于0，这个时候我们说这个矩阵是一个半正定矩阵。

　　这个时候我们根据$x^{T}Ax$，看一下其得到的结果：

　　$x=egin{bmatrix}x_{1}\ x_{1}end{bmatrix} $

　　$f(x_{1},x_{2})=egin{bmatrix} x_{1}&x_{2} end{bmatrix}egin{bmatrix}2 &6 \ 6 & 18end{bmatrix}egin{bmatrix}x_{1}\ x_{2}end{bmatrix}$

　　$f(x_{1},x_{2})=2x_{1}^{2}+12x_{1}x_{2}+18x_{2}^{2}$

　　这个时候函数就相当于：

　　$f(x,y)=2x^{2}+12xy+18y^{2}$

　　这个时候我们画出它的图像：