人工智能(模式识别)学习笔记:目录
Posted Mario cai
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了人工智能(模式识别)学习笔记:目录相关的知识,希望对你有一定的参考价值。
简单介绍多元高斯分布的形状及特性
介绍贝叶斯决策:决策准则(最小错误率准则、最小风险准则、neyman、最小最大决策准则)通过这些准则建立判别函数,构建决策面。判别函数中用到多元高斯分布
参数估计:ML(最大化似然函数实现)似然函数(高斯分布参数下观测到样本集x的概率密度)似然函数求解还是使用梯度,所以条件必须连续可导。
在ML的情况下加入贝叶斯公式 :即估计角度变成从参数的先验知识和样本出发而不是仅仅依靠训练样本来估计
步骤:先求出参数的后验概率分布,然后参数的期望损失最小(加入损失函数MSE)
非参数估计的核心:通过统计p来估计p(x)
parzen窗方法:选择体积去框,然后再统计p
Kn近邻方法:固定框到的数量,再去估计体积
最后估计出来类条件概率密度,可以用贝叶斯判别准则进行分类
三层感知机 开始,介绍激活函数并引入权重,使函数使神经网络活动起来。
活动起来的神经网络可学习东西,而优化过程我们使用BP算法
假设出一个最优解,找函数最优解的过程就是神经网络学习的过程(训练好使的权重)
我们使用梯度的方法求解,求偏导,这里涉及链式法则
模拟一下全过程
根据需求选择激活函数(非线性、线性)
权值初始化、设置学习率、按需求选择是否使用噪音、按需求选择是否加入冲量项、开始训练(权值衰减)
神经网络在参数估计方面的使用
以上是关于人工智能(模式识别)学习笔记:目录的主要内容,如果未能解决你的问题,请参考以下文章