机器学习笔记四 朴素贝叶斯法

Posted 2021-05-16 猛男Banana君

一、朴素贝叶斯法的学习&分类

1）定义：是基于贝叶斯定理与特征条件独立假设的分类方法 。

朴素贝叶斯并不朴素，“朴素”指强假设（变量间相互独立）。

贝叶斯思维：主观判断（先验概率）→添加新信息（调整因子）→最终结论（后验概率）。

朴素贝叶斯法≠贝叶斯估计

2）方法：通过训练数据集学习联合概率分布（先验概率分布+条件概率分布） 。

3）朴素贝叶斯法实际上学习到生成数据的机制，属于生成模型。

4）公式推导

二、朴素贝叶斯的参数估计

1）先验概率P(Y=ck)的极大似然估计：

2）条件概率P(X(j)=ajl|Y=ck)的极大似然估计：