5月深度学习班第1课机器学习中数学基础

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了5月深度学习班第1课机器学习中数学基础相关的知识,希望对你有一定的参考价值。

梯度方向:上升的方向

梯度下降:沿着梯度的反方向下降,来最小化损失函数,也就是沿着梯度的反方向

泰勒级数:展开式通项

技术分享

 

贝叶斯公式:后验概率=先验概率*条件概率

技术分享

 

特征值与特征向量:特征值不同,特征向量线性无关

技术分享

 技术分享

 

 PCA:降维的同时尽可能的保留原始的信息

技术分享

 过程

1)先求解协方差矩阵

2)求解协方差矩阵的特征向量和特征值

3)特征值从大到小排列,选择特征值对应的特征向量

4)这些特征向量相互正交,作为正交基向量

技术分享

技术分享

 凸优化问题;一般的约束性最优化问题

技术分享

求解约束问题的极值问题:把约束优化转化成无约束问题

其中KKT条件,就是优化问题求解的可行域

技术分享

技术分享

 技术分享

转化方法:朗格朗日方法

 技术分享

 技术分享

以上是关于5月深度学习班第1课机器学习中数学基础的主要内容,如果未能解决你的问题,请参考以下文章

11月深度学习班第5课风格变化NeuralStyle

自动聊天机器人项目班 [一门课搞定聊天机器人]

吴恩达《深度学习》第一门课深度学习引言

自动聊天机器人项目班 [一门课搞定聊天机器人]

5月深度学习班第4课CNN,典型网络结构与常用框架

11月深度学习班第5课图像物体检测:rcnn/fast-rcnn/faster-rcnn