机器学习|数学基础Mathematics for Machine Learning系列之线性代数(15):向量的内积长度及正交性

Posted 海轰Pro

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了机器学习|数学基础Mathematics for Machine Learning系列之线性代数(15):向量的内积长度及正交性相关的知识,希望对你有一定的参考价值。

前言

Hello!小伙伴!
非常感谢您阅读海轰的文章,倘若文中有错误的地方,欢迎您指出~
 
自我介绍 ଘ(੭ˊᵕˋ)੭
昵称:海轰
标签:程序猿|C++选手|学生
简介:因C语言结识编程,随后转入计算机专业,有幸拿过一些国奖、省奖…已保研。目前正在学习C++/Linux/Python
学习经验:扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语!
 
机器学习小白阶段
文章仅作为自己的学习笔记 用于知识体系建立以及复习
知其然 知其所以然!

往期文章

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(1):二阶与三阶行列式、全排列及其逆序数

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(2):n阶行列式、对换

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(3):行列式的性质

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(4):行列式按行(列)展开

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(5):克拉默法则

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(6):矩阵的运算

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(7):逆矩阵

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(8):矩阵的初等变换

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(9):矩阵的秩、线性方程组的解

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(10):向量组及其线性组合

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(11):向量组的线性相关性

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(12):向量组的秩

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(13):线性方程组的解的结构

【机器学习|数学基础】Mathematics for Machine Learning系列之线性代数(14):向量空间

5.1 向量的内积、长度及正交性

定义1

内积

设有 n n n维向量
x = [ x 1 x 2 . . . x n ] , y = [ y 1 y 2 . . . y n ] x=\\begin{bmatrix} x_1\\\\ x_2\\\\ .\\\\ .\\\\ .\\\\ x_n \\end{bmatrix},y = \\begin{bmatrix} y_1\\\\ y_2\\\\ .\\\\ .\\\\ .\\\\ y_n \\end{bmatrix} x=x1x2...xn,y=y1y2...yn

[ x , y ] = x 1 y 1 + x 2 y 2 + . . . + x n y n = ( x 1 , x 2 , . . . , x n ) [ y 1 y 2 . . . y n ] [x,y]=x_1y_1 + x_2y_2 + ... + x_ny_n=(x_1,x_2,...,x_n)\\begin{bmatrix} y_1\\\\ y_2\\\\ .\\\\ .\\\\ .\\\\ y_n \\end{bmatrix} [x,y]=x1y1+x2y2+...+xnyn=(x1,x2,...,xn)y1y2...yn

[ x , y ] [x,y] [x,y]称为向量 x x x y y y内积


内积是两个向量之间的一种运算,其结果是一个实数,用矩阵符号表示,当 x x x y y y都是列向量时,有

[ x , y ] = x T y [x,y]=x^Ty [x,y]=xTy

内积具有的性质:( x , y , z x,y,z x,y,z n n n维向量, λ \\lambda λ为实数)

  • [ x , y ] = [ y , x ] [x,y] = [y, x] [x,y]=[y,x]
  • [ λ x , y ] = λ [ x , y ] [ \\lambda x,y]=\\lambda[x,y] [λx,y]=λ[x,y]
  • [ x + y , z ] = [ x , z ] + [ y , z ] [x+y,z] = [x, z] + [y,z] [x+y,z]=[x,z]+[y,z]
  • x = 0 x=0 x=0时, [ x , x ] = 0 [x,x]=0 [x,x]=0;当 x ≠ 0 x\\neq0 x=0时, [ x , x ] > 0 [x,x]>0 [x,x]>0

施瓦茨不等式

[ x , y ] 2 ≤ [ x , x ] [ y , y ] [x,y]^2 \\leq[x,x][y,y] [x,y]2[x,x][y,y]

定义2

向量长度、单位向量

∣ ∣ x ∣ ∣ = [ x , x ] = x 1 2 + x 2 2 + . . . . + x n 2 ||x||=\\sqrt{[x,x]}=\\sqrt{x_1^2+x_2^2+....+x_n^2} x=[x,x] =x12+x22+....+xn2

∣ ∣ x ∣ ∣ ||x|| x称为 n n n维向量 x x 以上是关于机器学习|数学基础Mathematics for Machine Learning系列之线性代数(15):向量的内积长度及正交性的主要内容,如果未能解决你的问题,请参考以下文章

机器学习|数学基础Mathematics for Machine Learning系列之图论:树及其性质

机器学习|数学基础Mathematics for Machine Learning系列之图论:树及其性质

机器学习|数学基础Mathematics for Machine Learning系列之图论(10):匹配基本定理

机器学习|数学基础Mathematics for Machine Learning系列之图论(10):匹配基本定理

机器学习|数学基础Mathematics for Machine Learning系列之图论(10):匹配基本定理

机器学习|数学基础Mathematics for Machine Learning系列之矩阵理论(16):向量和矩阵的极限