4-2 朴素贝叶斯 策略公式的推导

Posted windmissing

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了4-2 朴素贝叶斯 策略公式的推导相关的知识,希望对你有一定的参考价值。

朴素贝叶斯模型使用0-1损失函数来选择最优模型
0-1损失函数定义如下:
L ( Y , f ( X ) ) = 1 , Y = f ( X ) 0 , Y ≠ f ( X ) L(Y, f(X)) = \\begincases 1, && Y = f(X) \\\\ 0, && Y \\neq f(X) \\endcases L(Y,f(X))=1,0,Y=f(X)Y=f(X)

L(Y, f(X))的期望为:
E [ L ( Y , f ( X ) ) ] = ∑ k L ( c k , f ( x ) ) P ( C k ∣ X ) = ∑ k L ( c k , f ( x ) ) P ( C k ≠ f ( x ) ∣ X ) = 1 − P ( f ( x ) = C k ∣ X ) E[L(Y, f(X))] = \\sum_kL(c_k, f(x))P(C_k|X) \\\\ = \\sum_kL(c_k, f(x))P(C_k \\neq f(x)|X) \\\\ = 1 - P(f(x)=C_k|X) E[L(Y,f(X))]=kL(ck,f(x))P(CkX)=kL(ck,f(x))P(Ck=f(x)X)=1P(f(x)=CkX)
L(Y, f(X))代表f(x)的损失函数,因此要让它和标记尽量小,也普是在让 P ( f ( x ) = C k ∣ X ) P(f(x)=C_k|X) P(f(x)=CkX)尽量大,也就是后验概率最大化。

以上是关于4-2 朴素贝叶斯 策略公式的推导的主要内容,如果未能解决你的问题,请参考以下文章

徒手打造一个朴素贝叶斯分类器

朴素贝叶斯以及三种常见模型推导

朴素贝叶斯算法&应用实例

贝叶斯分类器原理及其推导

机器学习——朴素贝叶斯算法

机器学习贝叶斯算法详解 + 公式推导 + 垃圾邮件过滤实战 + Python代码实现