表示 Exp 中的对数似然。最大化算法

Posted

技术标签:

【中文标题】表示 Exp 中的对数似然。最大化算法【英文标题】:Meaning Logarithm Likelihood in Exp. Maximization algorithm 【发布时间】:2013-03-16 22:20:15 【问题描述】:

我已经实现了exp。最大化算法,它收敛并正确返回 musigma 的值,我已经检查了各种示例。

我已尝试绘制对数似然图,但我不知道它以正确的形式看起来如何? 这是等式: 而我的情节,y 是对数似然值,x 是迭代次数。

负值很奇怪,也许我应该标准化可能性?对数似然在 Exp 中意味着什么。最大化?

logLikelihood = 0;
for i = 1 : n
    logTemp = 0;
    for j = 1 : k
        logTemp =  logTemp + p(j) * mvnpdf(x(i,:), mu(j,:), sigma(:,:,j));
    end
    logLikelihood = logLikelihood + log(logTemp);
end
plot(iteration, logLikelihood,'r*');
hold on;

【问题讨论】:

【参考方案1】:

对数概率总是负数,因为它是概率的对数 (p

logpropability 是一种避免概率消失的构造,即程序会将它们四舍五入为零,并且当它这样做时,程序很可能会崩溃,例如除以某些归一化为零。

【讨论】:

以上是关于表示 Exp 中的对数似然。最大化算法的主要内容,如果未能解决你的问题,请参考以下文章

机器学习 | 最大熵模型学习的最优化算法

logistic回归算法的损失函数:binary_crossentropy(二元交叉熵)

最大似然与逻辑回归

EM算法原理以及高斯混合模型实践

最大似然函数

条件随机场