机器学习｜数学基础Mathematics for Machine Learning系列之线性代数：矩阵的秩线性方程组的解
Posted 海轰Pro
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了机器学习｜数学基础Mathematics for Machine Learning系列之线性代数：矩阵的秩线性方程组的解相关的知识，希望对你有一定的参考价值。
前言
Hello！小伙伴！
非常感谢您阅读海轰的文章，倘若文中有错误的地方，欢迎您指出～
自我介绍 ଘ(੭ˊᵕˋ)੭
昵称：海轰
标签：程序猿｜C++选手｜学生
简介：因C语言结识编程，随后转入计算机专业，有幸拿过一些国奖、省奖…已保研。目前正在学习C++/Linux/Python
学习经验：扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语！
机器学习小白阶段
文章仅作为自己的学习笔记 用于知识体系建立以及复习
知其然 知其所以然！
往期文章
【机器学习｜数学基础】Mathematics for Machine Learning系列之线性代数（1）：二阶与三阶行列式、全排列及其逆序数
【机器学习｜数学基础】Mathematics for Machine Learning系列之线性代数（2）：n阶行列式、对换
【机器学习｜数学基础】Mathematics for Machine Learning系列之线性代数（3）：行列式的性质
【机器学习｜数学基础】Mathematics for Machine Learning系列之线性代数（4）：行列式按行（列）展开
【机器学习｜数学基础】Mathematics for Machine Learning系列之线性代数（5）：克拉默法则
【机器学习｜数学基础】Mathematics for Machine Learning系列之线性代数（6）：矩阵的运算
【机器学习｜数学基础】Mathematics for Machine Learning系列之线性代数（7）：逆矩阵
【机器学习｜数学基础】Mathematics for Machine Learning系列之线性代数（8）：矩阵的初等变换
3.2 矩阵的秩
秩的第一种定义
对于一个m*n矩阵
A
A
A，一定存在一个标准形矩阵F（由A经过初等变化得到）
F
=
[
E
r
0
0
0
]
m
∗
n
F=\\begin{bmatrix} E_{r} & 0\\\\ 0 & 0 \\end{bmatrix}_{m*n}
F=[Er000]m∗n
数r就是A的行阶梯形矩阵中非零行的个数，也就是矩阵A的秩
k阶子式子
在m * n矩阵A中，任意取k行、k列(k<=m 且 k<=n) ,位于这些行列交叉处的
k
2
k^2
k2个元素，不改变它们在A中所处的位置次序而得到的k阶行列式，称为矩阵A的k阶子式子
m*n矩阵A的k阶子式一共有
C
m
k
∗
C
n
k
C^k_m * C^k_n
Cmk∗Cnk个
秩的第二种定义
假设在矩阵A中，存在一个不等于0的r阶子式D，且所有的 r+1 阶子式（存在的情况下）全等于0，那么D就称为矩阵A的最高阶非零子式，数r就是矩阵A的秩，记作 R ( A ) = r R(A)=r R(A)=r
规定零矩阵的秩等于0
当A中所有的r+1阶子式都为0时，那么所有高于r+1阶的子式也全等于0.因此把r阶非零子式称为最高阶非零子式，而A的秩
R
(
A
)
R(A)
R(A)就是A的非零子式的最高阶数
若A为m*n矩阵，那么有
0
≤
R
(
A
)
≤
m
i
n
{
m
,
n
}
0 \\leq R(A) \\leq min \\{ m,n \\}
0≤R(A)≤min{m,n}
若A为n阶子式
- 当|A|！=0时，R(A)=n
- 当|A|=0时，R(A)<n
说明，可逆矩阵的秩等于矩阵的阶数，而不可逆矩阵的秩则小于矩阵的阶数。所以，可逆矩阵称为满秩矩阵，不可逆矩阵为降秩矩阵
（以上为n阶方阵的情况下，
若矩阵秩等于行数，称为行满秩；若矩阵秩等于列数，称为列满秩。
既是行满秩又是列满秩则为n阶矩阵即n阶方阵。
行满秩矩阵就是行向量线性无关，列满秩矩阵就是列向量线性无关；所以如果是方阵,行满秩矩阵与列满秩矩阵是等价的。）
定理2
若 A ～ B A～B A～B，则有 R ( A ) = R ( B ) R(A)=R(B) R(A)=R(B)
推论
若可逆矩阵P、Q，使得，则 R ( A ) = R ( B ) R(A)=R(B) R(A)=R(B)
所以，依据定理2，求一个矩阵的秩，只需要将矩阵进行一系列初等行变化变为行阶梯形矩阵，其中非零行的行数就是该矩阵的秩
秩的基本性质
矩阵秩的一些基本性质
（1）
0
≤
R
(
A
m
∗
n
)
≤
m
i
n
{
m
,
n
}
0 \\leq R(A_{m*n}) \\leq min\\{ m,n \\}
0≤R(Am∗n)≤min{m,n}
（2） R ( A T ) = R ( A ) R(A^T)=R(A) R(AT)=R(A)
（3）若 A ～ B A～B A～B，则有 R ( A ) = R ( B ) R(A)=R(B) R(A)=R(B)
（4）若P、Q可逆，则 R ( P A Q ) = R ( A ) R(PAQ)=R(A) R(PAQ)=R(A)
（5） 特别地，当B=b为非零列向量时，有 R ( A ) ≤ R ( A , b ) ≤ R ( A ) + 1 R(A) \\leq R(A,b) \\leq R(A)+1 R(A)≤R(A,b)≤R(A)+1
（6） R ( A + B ) ≤ R ( A ) + R ( B ) R(A+B) \\leq R(A)+R(B) R(A+B)≤R(A)+R(B)
（7） R ( A B ) ≤ m i n { R ( A ) , R ( B ) } R(AB) \\leq min \\{ R(A),R(B) \\} R(AB)≤min{R(A),R(B)}
（8）若 A m ∗ n B n ∗ l = O A_{m*n}B_{n*l}=O Am∗nBn∗l=O，则 R ( A ) + R ( B ) ≤ n R(A) + R(B) \\leq n R(A)+R(B)≤n
证明： m a x { R ( A ) , R ( B ) } < = R ( A , B ) < = R ( A ) + R ( B ) max \\{ R(A), R(B)\\} <= R(A, B) <= R(A) + R(B) max{R(A),R(B)}<=R(A,B)<=R(A)+R(B)
首先 毋庸置疑
R ( A ) ≤ R ( A , B ) 、 R ( B ) ≤ R ( A , B ) R(A) \\leq R(A,B) 、R(B) \\leq R(A,B) R(A)≤R(A,B)、R(B)≤R(A,B)
推出
m
a
x
{
R
(
A
)
,
R
(
B
)
}
<
=
R
(
A
,
B
)
max\\{ R(A), R(B) \\} <= R(A,B)
max{R(A),R(B)}<=R(A,B)
设
R
(
A
)
=
r
、
R
(
B
)
=
t
R(A)=r、R(B)=t
R(A)=r、R(B)=t
分别对A、B进行列变换 将其转换为 **列阶梯形 **矩阵，设为
A
~
、
B
~
\\tilde{A}、\\tilde{B}
A~、B~
则
A
~
、
B
~
\\tilde{A}、\\tilde{B}
A~、B~中分别含有r个和t个非零列
所以
A
∼
A
~
(
c
,
列
变
换
)
=
(
a
1
~
,
a
2
~
.
.
.
a
r
~
,
0...0
)
A \\sim \\tilde{A} (c,列变换) = (\\tilde{a_1},\\tilde{a_2}...\\tilde{a_r},0...0)
A∼A~(c,列变换)=(a1~,a2~...ar~,0...0)
B
∼
B
~
(
c
,
列
变
换
)
=
(
b
1
~
,
b
2
~
.
.
.
b
r
~
,
0...0
)
B \\sim \\tilde{B} (c,列变换) = (\\tilde{b_1},\\tilde{b_2}...\\tilde{b_r},0...0)
B∼B~(c,列变换)=(b1~,b2~...br~,0...0)
所以 以上是关于机器学习｜数学基础Mathematics for Machine Learning系列之线性代数：矩阵的秩线性方程组的解的主要内容，如果未能解决你的问题，请参考以下文章 机器学习｜数学基础Mathematics for Machine Learning系列之图论：树及其性质 机器学习｜数学基础Mathematics for Machine Learning系列之图论：树及其性质 机器学习｜数学基础Mathematics for Machine Learning系列之图论（10）：匹配基本定理 机器学习｜数学基础Mathematics for Machine Learning系列之图论（10）：匹配基本定理 机器学习｜数学基础Mathematics for Machine Learning系列之图论（10）：匹配基本定理 机器学习｜数学基础Mathematics for Machine Learning系列之矩阵理论（16）：向量和矩阵的极限
(
A
,
B
)