人工智能(模式识别)学习笔记:目录

Posted Mario cai

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了人工智能(模式识别)学习笔记:目录相关的知识,希望对你有一定的参考价值。

人工智能学习笔记1:多元高斯分布

简单介绍多元高斯分布的形状及特性

人工智能学习笔记2:贝叶斯决策理论part1 

介绍贝叶斯决策:决策准则(最小错误率准则、最小风险准则、neyman、最小最大决策准则)通过这些准则建立判别函数,构建决策面。判别函数中用到多元高斯分布

 人工智能学习笔记3:贝叶斯决策理论part 2

参数估计:ML(最大化似然函数实现)似然函数(高斯分布参数下观测到样本集x的概率密度)似然函数求解还是使用梯度,所以条件必须连续可导。

人工智能学习笔记4:贝叶斯决策理论part 3

在ML的情况下加入贝叶斯公式 :即估计角度变成从参数的先验知识和样本出发而不是仅仅依靠训练样本来估计

步骤:先求出参数的后验概率分布,然后参数的期望损失最小(加入损失函数MSE

人工智能学习笔记5:非参数估计 

非参数估计的核心:通过统计p来估计p(x)

parzen窗方法:选择体积去框,然后再统计p

Kn近邻方法:固定框到的数量,再去估计体积

最后估计出来类条件概率密度,可以用贝叶斯判别准则进行分类

人工智能学习笔记6:人工神经网络

三层感知机 开始,介绍激活函数并引入权重,使函数使神经网络活动起来。

活动起来的神经网络可学习东西,而优化过程我们使用BP算法

人工智能学习笔记7:张量求导、反向传播

假设出一个最优解,找函数最优解的过程就是神经网络学习的过程(训练好使的权重)

我们使用梯度的方法求解,求偏导,这里涉及链式法则

人工智能学习笔记8:BP算法的实用技术、径向基神经网络 

模拟一下全过程

根据需求选择激活函数(非线性、线性)

权值初始化设置学习率、按需求选择是否使用噪音、按需求选择是否加入冲量项、开始训练(权值衰减

神经网络在参数估计方面的使用

以上是关于人工智能(模式识别)学习笔记:目录的主要内容,如果未能解决你的问题,请参考以下文章

人工智能之模式识别北京理工大学Mooc笔记更新中

1-2人工智能与机器学习

人工智能学习笔记2:贝叶斯决策理论part1

人工智能基础1

深度学习 人工智能,机器学习和深度学习之间的关系。

Python深度学习:机器学习理论知识,包含信息熵的计算(读书笔记)