线性代数
Posted zizi7
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了线性代数相关的知识，希望对你有一定的参考价值。
目录
方程组的“行图像”与“列图像”
对一个二元二次方程组
2
x
−
y
=
0
−
x
+
2
y
=
3
(1)
2x-y=0\\\\-x+2y=3 \\tag1
2x−y=0−x+2y=3(1)
可以记为
A
X
=
b
AX=b
AX=b的行图像形式
[
2
−
1
−
1
2
]
[
x
y
]
=
[
0
3
]
(2)
\\left[ \\beginmatrix 2 & -1\\\\ -1 & 2 \\endmatrix \\right]\\left[\\beginmatrixx\\\\y\\endmatrix\\right]=\\left[\\beginmatrix0\\\\3\\endmatrix\\right] \\tag2
[2−1−12][xy]=[03](2)
在图像上这种方式表示两条直线，其交点就是方程的解
同时方程组(1)也可记为列图像形式
x
[
2
−
1
]
+
y
[
−
1
2
]
=
[
0
3
]
(3)
x\\left[\\beginmatrix2\\\\-1\\endmatrix\\right]+y\\left[\\beginmatrix-1\\\\2\\endmatrix\\right]=\\left[\\beginmatrix0\\\\3\\endmatrix\\right] \\tag3
x[2−1]+y[−12]=[03](3)
在图像上这种方式表示两条向量
[
2
−
1
]
T
[2\\ -1]^T
[2 −1]T和
[
−
1
2
]
T
[-1\\ \\ 2]^T
[−1 2]T的某种线性组合得到
[
0
3
]
T
[0\\ \\ 3]^T
[0 3]T
可以看到，“列图像”的描述方式更直观，但 A X = b AX=b AX=b的形式更方便求解。
逆矩阵
什么情况下 A X = b AX=b AX=b有解呢？从“列图像”上看就是涉及到的向量不共线，相应的 A A A可逆（非奇异）
设A是n阶方阵，如果存在n阶方阵B，使得 A B = B A = I AB=BA=I AB=BA=I，那么称A可逆，B是其逆矩阵
如果能找到一个非0向量 X X X，使得 A X = 0 AX=0 AX=0成立，那么A不可逆
1）高斯-约旦消元法求逆
假设
A
=
[
1
3
2
7
]
A=\\left[\\beginmatrix1&3\\\\2&7\\endmatrix\\right]
A=[1237]
首先将
A
A
A与
I
I
I合为增广矩阵
A
^
=
[
1
3
1
0
2
7
0
1
]
\\widehatA=\\left[\\beginarraylr|lr1&3&1&0\\\\2&7&0&1\\endarray\\right]
A
=[12371001]
然后对
A
^
\\widehatA
A
做消元使得其左部分变成
I
I
I：
[
1
0
7
−
3
0
1
−
2
1
]
\\left[\\beginarraylr|lr1&0&7&-3\\\\0&1&-2&1\\endarray\\right]
[10017−2−31]
消元（行变换）后右侧即为所求：
A
−
1
=
[
7
−
3
−
2
1
]
A^-1=\\left[\\beginmatrix7&-3\\\\-2&1\\endmatrix\\right]
A−1=[7−2−31]
简单的证明：
对增广阵左乘某个矩阵
B
B
B：
B
[
A
∣
I
]
B[A | I]
B[A∣I]
消元后有
B
A
=
I
BA=I
BA=I，因此
B
=
A
−
1
B=A^-1
B=A−1
又因为右侧
B
I
=
B
BI=B
BI=B，因此消元后右侧即为所求逆矩阵
LU分解
LU分解是将一个矩阵分解为一个单位下三角矩阵和一个上三角矩阵乘积
对任意一个非奇异的方阵A，其LU分解总是存在的
LU分解主要应用在数值分析中，用来解线性方程、求逆矩阵或计算行列式
1）消元法（Doolittle算法）求LU
首先对矩阵A通过初等行变换将其变为一个上三角矩阵U，这个过程中对应的变换矩阵就变成一个单位下三角矩阵
对
A
=
[
2
1
8
7
]
A=\\left[\\beginmatrix2&1\\\\8&7\\endmatrix\\right]
A=[2817]，行二加上行一的-4倍，有：
[
1
0
−
4
1
]
[
2
1
8
7
]
=
[
2
1
0
3
]
⇒
A
=
[
1
0
−
4
1
]
−
1
[
2
1
0
3
]
=
[
1
0
4
1
]
[
2
1
0
3
]
\\left[\\beginmatrix1&0\\\\-4&1\\endmatrix\\right]\\left[\\beginmatrix2&1\\\\8&7\\endmatrix\\right]=\\left[\\beginmatrix2&1\\\\0&3\\endmatrix\\right]\\\\\\Rightarrow A=\\left[\\beginmatrix1&0\\\\-4&1\\endmatrix\\right]^-1\\left[\\beginmatrix2&1\\\\0&3\\endmatrix\\right]=\\left[\\beginmatrix1&0\\\\4&1\\endmatrix\\right]\\left[\\beginmatrix2&1\\\\0&3\\endmatrix\\right]
[1−401][2817]=[2013]⇒A=[1−401]−1[20以上是关于线性代数的主要内容，如果未能解决你的问题，请参考以下文章
机器学习｜数学基础Mathematics for Machine Learning系列之线性代数（16）：方阵的特征值与特征向量