2.机器学习相关数学基础

Posted 2021-02-28 hoioh

本周任务：

请确保熟悉并理解机器学习数学部分常用相关概念:

1.高等数学

1）函数

2）极限

3）导数

4）极值和最值

5）泰勒级数

6）梯度

7）梯度下降

2.线性代数

1）基本概念

2）行列式

3）矩阵

4）最小二乘法

5）向量的线性相关性

3.概率论

1）事件

2）排列组合

3）概率

4）贝叶斯定理

5）概率分布

6）期望和方差

7）参数估计

 

2.本周视频学习内容：https://www.bilibili.com/video/BV1Tb411H7uC?p=2

1）P2 概率论与贝叶斯先验

2）P3 矩阵和线性代数

机器学习是一门多领域交叉学科，涉及较多的数学知识，本节课知识之前都有学过，这次根据重点重新梳理一遍，一定要多加重视。通过观看视频，大家对课程的数学基础部分加深印象。

建议大家边看边做笔记，记录要点及所在时间点，以便有必要的时候回看。学习笔记也是作业的一部分。

 

3.作业要求：

1）贴上视频学习笔记，要求真实，不要抄袭，可以手写拍照。

公式：

 

矩阵：

2）用自己的话总结“梯度”，“梯度下降”和“贝叶斯定理”，可以word编辑，可做思维导图，可以手写拍照，要求言简意赅、排版整洁。

梯度：梯度是一个向量，是一个n元函数f关于n个变量的偏导数，比如三元函数f的梯度为(fx,fy,fz)，二元函数f的梯度为(fx,fy），一元函数f的梯度为fx。然后要明白梯度的方向是函数f增长最快的方向，梯度的反方向是f降低最快的方向

梯度下降：在机器学习算法中，在最小化损失函数时，可以通过梯度下降思想来求得最小化的损失函数和对应的参数值。梯度下降的几个概念：步长、特征、假设函数、损失函数。

贝叶斯定理：贝叶斯定理是关于随机事件A和B的条件概率（或边缘概率）的一则定理。其中P(A|B)是在B发生的情况下A发生的可能性。