人工智能基础-数学知识之线性代数

Posted 2021-08-20 i是绘梨衣吖

说明：本篇博客出自湖南师范大学基础教育大数据研究与应用重点实验室

人工智能基础-数学知识之线性代数

• 一、向量
• • 1.1 向量的含义
  • 1.2 创建向量
  • 1.3 向量的范数（模长）
  • 1.4 向量加法（减法）
  • 1.5 向量的数乘
  • 1.6 向量的乘法（点积）
• 二、向量化
• • 2.1 One-Hot Encoding方式
  • 2.2 词袋（BOW）模型
  • 2.3 TF-IDF
  • 2.4 三种方法的缺点
• 参考文献

本篇博客为人工智能基础-数学知识之线性代数的第一部分内容，主要介绍了线性代数中向量的含义及一些基本运算、文本向量化的三种方法，内含python相关实现代码。本篇博客较为简单，请读者在学习的过程中，适当学习相关代码，领会其中思想。

一、向量

1.1 向量的含义

向量是指在坐标系中的有箭头的线段。在线性代数中，向量经常以原点作为起点。
用行的方式排列的向量叫作行向量，用列的方式排列的向量叫作列向量。习惯上，我们说向量时都是指列向量，如果是行向量，会加上一个上标符号T， T代表转置。

–	行向量	列向量
示例	$$\mathbf{\alpha }=(2,4,6)$$	$$\begin{gathered} \mathbf{\beta }=\left[\begin{array}{c} \\ 2\\ 4\\ 7\end{array}\right] \end{gathered}$$
列向量表示法	$${\mathbf{\alpha }}^T$$	$$\mathbf{\beta }$$

1.2 创建向量

NumPy(Numerical Python) 是 Python 语言的一个扩展程序库，支持大量的维度数组与矩阵运算，此外也针对数组运算提供大量的数学函数库。此处以Numpy为例进行演示。

# 创建向量，利用Numpy中的ndarray定义一个一维数组对象，就相当于创建了一个向量
import numpy as np
x=np.array([1,2,3,4,5])
y=np.array([2,5,6,3,2])
#结果为 [1 2 3 4 5]和 [2 5 6 3 2]

注意：如果两个向量的维数相同，并且对应元素相等，才说明两个向量相等。

#判断向量是否相等
np.all(x==y)
#结果为 False

1.3 向量的范数（模长）

向量的长度，也叫作向量的二范数、模长，其计算公式就是两点间欧氏距离公式，记作$$\begin{gathered} \Vert a\Vert =\left[\begin{array}{c} \\ {a}_1\\ a_2\\ ⋮\\ a_n\end{array}\right]=\sqrt{a_1^2+a_2^2+\cdots +a_n^2} \end{gathered}$$
可以利用Numpy中的linalg（线性代数）子模块进行运算：

#计算向量的长度
np.linalg.norm(x)
#结果为 7.416198487095663

1.4 向量加法（减法）

向量的加法（减法）就是两个维度相同的向量的对应元素之间的相加（减）。
$$\begin{gathered} \left[\begin{array}{c} \\ {a}_1\\ {\alpha }_2\end{array}\right]+\left[\begin{array}{c} \\ {b}_1\\ b_2\end{array}\right]=\left[\begin{array}{c} \\ {a}_1+b_1\\ a_2+b_2\end{array}\right] \end{gathered}$$
也可以从几何的角度理解向量的加减法运算：
将两个向量作为两条边，起点相同画一个平行四边形，对角线向量就是两个向量的和向量；两个向量的减法为平行四边形的另一条对角线。
在python中这样计算：

#向量减法，加法类似
z=x-y
#结果为 [-1 -3 -3  1  3]

1.5 向量的数乘

指向量与一个数字相乘，等于向量的各个分量都乘以相同的系数
$$\begin{gathered} \left[\begin{array}{c} \\ {a}_1\\ a_2\end{array}\right]\ast k=\left[\begin{array}{c} \\ {a}_1\ast k\\ a_2\ast k\end{array}\right] \end{gathered}$$
在python中这样计算：

#向量的数乘
z=10*x
#结果为 [10 20 30 40 50]

1.6 向量的乘法（点积）

指两个向量对应元素之积的和，得到的是一个数字。
$$\begin{gathered} \left[\begin{array}{c} \\ {a}_1\\ a_2\\ ⋮\\ a_n\end{array}\right].\left[\begin{array}{c} \\ {b}_1\\ b_2\\ ⋮\\ b_n\end{array}\right]=a_1{b}_1+a_2{b}_2\cdots +a_n{b}_n \end{gathered}$$
在python中这样计算：

#向量的点积，使用numpy.dot方法
np.dot(x,y)
#结果为 52

在数值上等于两个向量的长度和夹角余弦之积，即：
$$a\cdot b=||a||\ast ||b||\ast \cos \theta$$

二、向量化

文本向量化属于自然语言处理的范畴，在所有数据任务中，机器处理的都是全是数字的向量。文本向量化就是将文本表示成一系列能够表达文本语义的向量。
文本向量化主要有以下几种方法：

2.1 One-Hot Encoding方式

独热编码，又称一位有效编码，其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都有它独立的寄存器位，并且在任意时候，其中只有一位有效。
大致步骤为：①分词②构造文本分词后的字典③对词语进行One-hot编码。

例如：
对于句子’I , I , I love study’和’study is my angle!’，首先将其看做为一篇文档，分词之后，构成字典包括’angle’, ‘i’, ‘is’, ‘love’, ‘my’, 'study’六个单词，再对每个句子进行分词，若句子中出现字典中的字，则记为1，否则记为0。最终得到编码表如下所示。

–	angle	i	is	love	my	study
I , I , I love study	0	1	0	1	0	1
study is my angle	1	0	1	0	1	1

代码如下：（此处为英文句子，英文句子默认会分词，而中文不会）

from sklearn.feature_extraction.text import CountVectorizer
import pandas as pd

corpus=['I , I , I love study', 'study is my an
以上是关于人工智能基础-数学知识之线性代数的主要内容，如果未能解决你的问题，请参考以下文章
 
 自学人工智能之攻克数学篇，AI入门其实并不难！
 Python之基础数学知识
 数学基础一份非常适合人工智能学习的高等数学基础材料中文版 （国内教材精华）
 人工智能02-图像识别A到Z
 深度学习预备知识
 数学基础篇--详解人工智能之数学 积分学，概率空间，大数定律和中心极限定理