机器学习|数学基础Mathematics for Machine Learning系列之线性代数(21):正定二次型

Posted 海轰Pro

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习|数学基础Mathematics for Machine Learning系列之线性代数(21):正定二次型相关的知识,希望对你有一定的参考价值。

前言

Hello!小伙伴!
非常感谢您阅读海轰的文章,倘若文中有错误的地方,欢迎您指出~
 
自我介绍 ଘ(੭ˊᵕˋ)੭
昵称:海轰
标签:程序猿|C++选手|学生
简介:因C语言结识编程,随后转入计算机专业,有幸拿过一些国奖、省奖…已保研。目前正在学习C++/Linux/Python
学习经验:扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语!
 
机器学习小白阶段
文章仅作为自己的学习笔记 用于知识体系建立以及复习
知其然 知其所以然!

往期文章

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(1):二阶与三阶行列式、全排列及其逆序数

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(2):n阶行列式、对换

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(3):行列式的性质

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(4):行列式按行(列)展开

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(5):克拉默法则

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(6):矩阵的运算

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(7):逆矩阵

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(8):矩阵的初等变换

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(9):矩阵的秩、线性方程组的解

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(10):向量组及其线性组合

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(11):向量组的线性相关性

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(12):向量组的秩

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(13):线性方程组的解的结构

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(14):向量空间

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(15):向量的内积、长度及正交性

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(16):方阵的特征值与特征向量

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(17):相似矩阵

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(18):对称矩阵的对角化

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(19):二次型及其标准形

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(20):用配方法化二次型为标准形

5.7 正定二次型

二次型的标准型不是惟一的,只是标准形中所含的项数是确定的(即二次型的秩)

定理9:惯性定理

设有二次型 f = x T A x f=x^TAx f=xTAx,它的秩为 r r r,有两个可逆变换

x = C y 、 x = P z x=Cy、x=Pz x=Cyx=Pz

使

f = k 1 y 1 2 + k 2 y 2 2 + . . . . + k r y r 2 ( k i ≠ 0 ) f=k_1y_1^2+k_2y_2^2+....+k_ry_r^2(k_i\\neq0) f=k1y12+k2y22+....+kryr2(ki=0)

f = λ 1 z 1 2 + λ 2 z 2 2 + . . . + λ r z r 2 ( λ i ≠ 0 ) f=\\lambda_1z_1^2+\\lambda_2z_2^2+...+\\lambda_rz_r^2(\\lambda_i\\neq0) f=λ1z12+λ2z22+...+λrzr2(λi=0)

k 1 , . . . , k r k_1,...,k_r k1,...,kr中正数的个数与 λ 1 , . . . . , λ r \\lambda_1,....,\\lambda_r λ1,....,λr中正数的个数相等


二次型的标准型中正系数的个数称为二次型的正惯性系数,负系数的个数称为负惯性系数

若二次型 f f f的正惯性系数指数为 p p p,秩为 r r r,则 f f f的规范形可确定为

f = y 1 2 + . . . + y p 2 − y p + 1 2 − . . . − y r 2 f=y_1^2+...+y_p^2-y_{p+1}^2-...-y_r^2 f=y12+...+yp2yp+12...yr2

定义10

设有二次型 f ( x ) = x T A x f(x)=x^TAx f(x)=xTAx

  • 如果对任何 x ≠ 0 x\\neq0 x=0,都有 f ( x ) > 0 f(x)>0 f(x)>0,则称 f f f正定二次型,并称对称阵A是正定的
  • 如果对任何 x ≠ 0 x\\neq0 x=0,都有 f ( x ) < 0 f(x)<0 f(x)<0,则称 f f f负定二次型,并称对称阵 A A A是负定的

定理10

n n n元二次型 f = x T A x f=x^TAx f=xTAx为正定的充分必要条件是:它的标准型的 n n n个系数全为正,即它的规范形的 n n n个系数全为1,亦即它的正惯性指数等于 n n n

推论

对称阵 A A A为正定的充分必要条件是: A A A的特征值全为正

定理11:赫尔维茨定理

对称阵 A A A正定的充分必要条件是:A的各阶主子式都为正,即


对称正 A A A负定的充分必要条件是:奇数阶主子式为负,而偶数阶主子式为正,即

举例

例17

判定二次型 f = − 5 x 2 − 6 y 2 − 4 z 2 + 4 x y + 4 x z f=-5x^2-6y^2-4z^2+4xy+4xz f=5x26y24z2+4xy+4xz的正定性

解答:

二次型 f f f的矩阵 A A A

A = [ − 5 2 2 2 − 6 0 2 0 − 4 ] A=\\begin{bmatrix} -5 & 2 & 2\\\\ 2 & -6 & 0\\\\ 2 & 0 & -4 \\end{bmatrix} A=522260204

一阶主子式

∣ a 11 ∣ = − 5 < 0 |a_{11}|=-5<0 a11=5<0

二阶主子式

∣ a 11

以上是关于机器学习|数学基础Mathematics for Machine Learning系列之线性代数(21):正定二次型的主要内容,如果未能解决你的问题,请参考以下文章

机器学习|数学基础Mathematics for Machine Learning系列之图论:树及其性质

机器学习|数学基础Mathematics for Machine Learning系列之图论:树及其性质

机器学习|数学基础Mathematics for Machine Learning系列之图论(10):匹配基本定理

机器学习|数学基础Mathematics for Machine Learning系列之图论(10):匹配基本定理

机器学习|数学基础Mathematics for Machine Learning系列之图论(10):匹配基本定理

机器学习|数学基础Mathematics for Machine Learning系列之矩阵理论(16):向量和矩阵的极限