高斯混合模型

Posted weilonghu

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了高斯混合模型相关的知识,希望对你有一定的参考价值。

  • 假设每个簇的数据都符合高斯分布,当前数据呈现的分布就是各个簇的高斯分布叠加在一起的结果
  • 用多个高斯分布函数的线性组合来对数据分布进行拟合
  • 生成式模型

核心思想

  • 每个单独的分模型都是标准高斯模型,其均值(mu_i)和方差(sum_i)是待估计的参数。此外,每个分模型还有一个权重参数(pi_i)。公式为:

    [p(x) = sum limits_{i=1}{K} pi_i N(x|mu_i, sum_i)]

  • 生成过程:先选择一个高斯分布,再生成一个样本点

求解方法

EM算法

与K均值比较

  • 相同点
    • 需要指定K值
    • EM算法求解
    • 局部最优
  • 不同点
    • 可以给出属于某类的概率
    • 概率密度的估计
    • 生成新的样本点

以上是关于高斯混合模型的主要内容,如果未能解决你的问题,请参考以下文章

单高斯模型SGM & 高斯混合模型GMM

高斯混合模型GMM核心参数高斯混合模型GMM的数学形式

05 EM算法 - 高斯混合模型 - GMM

EM算法和混合高斯模型(一)

高斯混合模型(GMM)和EM算法

高斯混合模型(GMM)及EM算法的初步理解