向量范数和矩阵范数

Posted 借我十斤肉

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了向量范数和矩阵范数相关的知识，希望对你有一定的参考价值。

文章目录

范数，是具有长度概念的函数。在线性代数、泛函分析及相关的数学领域，范数是一个函数，是矢量空间内的所有矢量赋予非零的正长度或大小。

1 向量范数

向量范数概念是三维欧式空间中向量长度概念的推广。

1.1 向量范数的定义

如果向量 x ∈ x\\in x∈ R n R^n Rn(或 C n C^n Cn)的某个实值函数 N ( x ) = ∣ ∣ x ∣ ∣ N(x)=||x|| N(x)=∣∣x∣∣满足以下条件

  1. ∣ ∣ x ∣ ∣ ≥ 0 ||x||≥0 ∣∣x∣∣≥0(当且仅当 x = 0 x=0 x=0 时， ∣ ∣ x ∣ ∣ = 0 ||x||=0 ∣∣x∣∣=0) （非负性或正定性）
  2. ∣ ∣ α x ∣ ∣ = ∣ α ∣ ∣ ∣ x ∣ ∣ ||\\alpha x||=|\\alpha| ||x|| ∣∣αx∣∣=∣α∣∣∣x∣∣， ∀ α ∈ R （ 或 C ） \\forall \\alpha ∈R（或C） ∀α∈R（或C）（齐次性）
  3. ∣ ∣ x + y ∣ ∣ ≤ ∣ ∣ x ∣ ∣ + ∣ ∣ y ∣ ∣ ||x+y||≤||x||+||y|| ∣∣x+y∣∣≤∣∣x∣∣+∣∣y∣∣（三角不等式）

则称 N ( x ) N(x) N(x)是 R n R^n Rn(或 C n C^n Cn)上的一个向量范数（或模）。由三角不等式条件，可推得

  1. | ∣ ∣ x ∣ ∣ − ∣ ∣ y ∣ ∣ ||x||-||y|| ∣∣x∣∣−∣∣y∣∣ | ≤ ∣ ∣ x − y ∣ ∣ ≤||x-y|| ≤∣∣x−y∣∣

1.2 常用的向量范数

设向量 x = ( x 1 , x 2 , … , x n ) T ， y = ( y 1 , y 2 , … , y n ) T ∈ R n ( 或 C n ) x=(x_1,x_2,…,x_n)^T，y=(y_1,y_2,…,y_n)^T∈R^n (或C^n) x=(x1​,x2​,…,xn​)T，y=(y1​,y2​,…,yn​)T∈Rn(或Cn)，则

  1. 向量的 ∞ ∞ ∞-范数（最大范数）：向量元素绝对值最大的一个，即 ‖ x ‖ ∞ = m a x 1 ≤ i ≤ n ⁡ ∣ x i ∣ ‖x‖_∞=max_{1≤i≤n}⁡|x_i | ‖x‖∞​=max1≤i≤n​⁡∣xi​∣
  2. 向量的1-范数：向量元素绝对值的累加和，即 ‖ x ‖ 1 = ∑ i = 1 n ∣ x i ∣ ‖x‖_1=\\sum_{i=1}^n{|x_i |} ‖x‖1​=∑i=1n​∣xi​∣
  3. 向量的2-范数（欧式范数）：自身内积的平方根，即 ‖ x ‖ 2 = ( x , x ) 1 / 2 = ( ∑ i = 1 n x i 2 ) 1 / 2 ‖x‖_2=(x,x)^{1/2}=(\\sum_{i=1}^n{x_i^2 })^{1/2} ‖x‖2​=(x,x)1/2=(∑i=1n​xi2​)1/2
  4. 向量的p-范数： ‖ x ‖ p = ( ∑ i = 1 n ∣ x i ∣ p ) 1 / p , p ∈ [ 1 , ∞ ) ‖x‖_p=(\\sum_{i=1}^n|x_i |^p )^{1/p},p∈[1,∞) ‖x‖p​=(∑i=1n​∣xi​∣p)1/p,p∈[1,∞)

2 矩阵范数

矩阵范数是向量范数的推广。

2.1 矩阵范数的定义

如果矩阵 A ∈ R n × n A∈R^{n×n} A∈Rn×n的某个非负的实值函数 N ( A ) = ‖ A ‖ N(A)=‖A‖ N(A)=‖A‖，满足以下条件

  1. ∣ ∣ A ∣ ∣ ≥ 0 （ ∣ ∣ A ∣ ∣ = 0 ⇔ A = 0 ） ||A||≥0（||A||=0\\hArr A=0） ∣∣A∣∣≥0（∣∣A∣∣=0⇔A=0）(正定条件)
  2. ∣ ∣ c A ∣ ∣ = ∣ c ∣   ∣ ∣ A ∣ ∣ ||cA||=|c|\\ ||A|| ∣∣cA∣∣=∣c∣ ∣∣A∣∣，c为实数（齐次条件）
  3. ∣ ∣ A + B ∣ ∣ ≤ ∣ ∣ A ∣ ∣ + ∣ ∣ B ∣ ∣ ||A+B||≤||A||+||B|| ∣∣A+B∣∣≤∣∣A∣∣+∣∣B∣∣（三角不等式）
  4. ∣ ∣ A B ∣ ∣ ≤ ∣ ∣ A ∣ ∣   ∣ ∣ B ∣ ∣ ||AB||≤||A||\\ ||B|| ∣∣AB∣∣≤∣∣A∣∣ ∣∣B∣∣

则称 N ( A ) N(A) N(A)是 R n × n R^{n×n} Rn×n上的一个矩阵范数（或模）。

2.2 常用的矩阵范数

设矩阵 A ∈ R n × n A∈R^{n×n} A∈Rn×n，则

  1. 矩阵A的 ∞ ∞ ∞-范数（行范数）：行元素之和的最大值，即 ‖ A ‖ ∞ = m a x 1 ≤ i ≤ n ⁡ ∑ j = 1 n ∣ a i j ∣ ‖A‖_∞=max_{1≤i≤n}⁡\\sum_{j=1}^n|a_{ij}| ‖A‖∞​=max1≤i≤n​⁡∑j=1n​∣aij​∣
  2. 矩阵A的1-范数（列范数）：列元素之和的最大值，即 ‖ A ‖ 1 = m a x 1 ≤ j ≤ n ⁡ ∑ i = 1 n ∣ a i j ∣ ‖A‖_1=max_{1≤j≤n}⁡∑_{i=1}^n|a_{ij}| ‖A

    以上是关于向量范数和矩阵范数的主要内容，如果未能解决你的问题，请参考以下文章

    向量范数和矩阵范数

    22矩阵——向量范数和矩阵范数 : 矩阵范数与向量范数的相容Numpy计算范数

    向量范数和矩阵范数

    常见向量范数和矩阵范数

    向量和矩阵的范数Ax=b的误差分析

    《数值分析》-- 向量和矩阵的范数Ax=b的误差分析