特征向量与矩阵分析——第一节：向量向量空间和线性相关性

Posted 2022-12-14 我擦我擦

文章目录

• 一：标量和向量
• • （1）基本概念
  • （2）坐标系中的向量表示
• 二：向量运算
• • （1）加减与数乘
  • （2）向量内积
  • • A：为什么需要向量内积
    • B：向量内积
    • C：柯西-施瓦茨不等式
  • （3）线性组合
• 三：基向量和向量空间（线性空间）
• • （1）基向量
  • （2）向量张成的空间
  • （3）特征向量与特征空间
• 五：向量线性相关性
• • （1）数学角度解释
  • （2）空间角度解释

一：标量和向量

（1）基本概念

标量：由单一数值构成的对待研究对象的量化评价，标量的定义与其代表的数据类型强相关

• 用单位cm的实数值表示身高
• 用取值为0或1的布尔型值表示信用状况

向量：如果在标定或描述一个事物的特征时需要用到多个标量，那么它就称之为向量

• 物体的颜色是一个向量（RGB）
• 空间位置是一个向量

给定任一向量$x=[x_1,x_2,...,x_d]$，它包含大小与方向两类信息，只有各分量位置处取相同值时两个向量才相等

• 大小：是指所有分量的平方和的根号，也即$||x||=\sqrt{\sum _{i=1}^d{x}_i^2}$
• 方向：是向量不同分量之间的比值

若有集合$s=1,3,5$，则

• $x_s=x_1,x_3,x_5$
• $x_{-s}=x_2,x_4,x_6,...,x_d$

注意以下特殊向量

• 零向量： $[0,0,...,0]$
• 单位向量$e$： $[\frac{x_1}{||x||},\frac{x_2}{||x||},...\frac{x_d}{||x||}]$
• 转置$x^T$： 此时行向量变列向量；列向量变行向量

---

（2）坐标系中的向量表示

坐标系中的向量表示：在线性代数中，向量是一个以坐标原点为起点的箭头

• 下图是二维平面直角坐标系，三维或更高维也是如此

以$\left(\begin{array}{c}-2\\ 3\end{array}\right)$为例，这一对数表示了如何从原点（向量起点）到达末端（向量终点）。每一对数给出了唯一的一个向量，而每一个向量又恰好对应唯一的一对数

• -2：表示从原点开始沿着平行于X轴的负方向移动两个单位
• 3：表示从上一位置开始沿着平行于Y轴的正方向移动两个单位

再以$\left(\begin{array}{c}2\\ 1\\ 3\end{array}\right)$为例

• 2：表示从原点开始沿着平行于X轴的正方向移动两个单位
• 1：表示从上一位置开始沿着平行于Y轴的正方向移动一个单位
• 3：表示从上一位置开始沿着平行于Z轴的正方向移动三个单位

二：向量运算

向量运算：即向量之间的运算，在实际问题中会经常涉及向量运算。例如：“在共同申请贷款时，银行会把双方的特征向量作为一个整体来考虑他们是否满足标准”

（1）加减与数乘

加减与数乘：对于给定向量$x_1=[g_1,h_1,r_1]$和$x_2=[g_2,h_2,r_2]$，则

• 加减：$x_1+x_2=[g_1+g_2,h_1+h_2,r_1+r_2]$
• 数乘：$2x_1=[2g_1,2h_1,2r_1]$

---

向量加法举例：$\left(\begin{array}{c}1\\ 2\end{array}\right)$+$\left(\begin{array}{c}3\\ -1\end{array}\right)$=$\left(\begin{array}{c}4\\ 1\end{array}\right)$

首先$\left(\begin{array}{c}1\\ 2\end{array}\right)$和$\left(\begin{array}{c}3\\ -1\end{array}\right)$这两个向量在坐标系中表示如下

移动第二个向量，使其起点对齐至第一个向量的末尾，然后连线

为什么向量加法要这样操作呢？其实向量从某种方面来讲，揭示的是一种运动趋势，自然就有方向和距离，所以大家可以看到向量的和其实就是最终的运动趋势。体现在运算上，就是各个分量对应相加

---

向量数乘举例：2·以上是关于特征向量与矩阵分析——第一节：向量向量空间和线性相关性的主要内容，如果未能解决你的问题，请参考以下文章