指数族分布(Exponential Families of Distributions)

Posted tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了指数族分布(Exponential Families of Distributions)相关的知识,希望对你有一定的参考价值。

指数族分布是一大类分布,基本形式为:

T(x)是x的充分统计量(能为相应分布提供足够信息的统计量)

为了满足归一化条件,有:

可以看出,当T(x)=x时,e^A(theta)是h(x)的拉普拉斯变换

 指数族分布的例子:

伯努利分布转换成指数族分布形式:

 单变量高斯分布的:

多变量高斯分布的:

 

A(theta)的一阶导:

A(theta)的二阶导:

说明A(theta)是凸函数

 

计算log likehood,然后对theta求导,可得

而A的二次导时大于零的,所以A的一次导是增函数,上述方程最多只有一个解。

 

共轭先验:

似然估计:

我们希望:

比如:

一些例子:

 

以上是关于指数族分布(Exponential Families of Distributions)的主要内容,如果未能解决你的问题,请参考以下文章

指数分布和泊松过程(Exponential Distribution and Poisson Process)--2(指数分布的例题)

Exponential Distribution指数分布

R语言指数分布(exponential distribution)函数(dexp, pexp, qexp & rexp)实战

Exponential family of distributions

指数分布族

基于指数族分布的变分推断——变分推断(二)