第三部分 概率_3 多维随机变量的分布

Posted cheryol

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了第三部分 概率_3 多维随机变量的分布相关的知识,希望对你有一定的参考价值。

3、 多维随机变量的分布

(1)多项分布

  可参见https://blog.csdn.net/jteng/article/details/54632311

  多项分布是对二项分布的扩展,二项分布是单变量分布,而多项分布式多变量分布。

  二项分布每次试验试验只有两种结果,而多项分布每次试验则会有多种可能性,那么进行多次的试验后,多项分布描述的就是每种可能发生次数的联合概率分布

技术图片

 

 技术图片

(2)Gamma函数

首先说一下先验概率和后验概率的区别,然后再进行下面的步骤:

  验前概率就是通常说的概率;

  验后概率是一种条件概率,但条件概率不一定是验后概率;

 我们常用的贝叶斯公式就是由验前概率求延后概率的公式;

 

举一个简单的例子:一口袋里有3只红球、2只白球,采用不放回方式摸取,求:
⑴ 第一次摸到红球(记作A)的概率;
⑵ 第二次摸到红球(记作B)的概率;
⑶ 已知第二次摸到了红球,求第一次摸到的是红球的概率。
解:

  ⑴ P(A)=3/5,这就是验前概率;
  ⑵ P(B)=P(A)P(B|A)+P(A逆)P(B|A逆)=(3/5)×(1/2)+(2/5)×(3/4)  = 3/5
  ⑶ P(A|B)=P(A)P(B|A)/P(B)=(3/5)×(1/2)/(3/5)=1/2,这就是验后概率。

  Beta分布于Dirichlet分布的定义域均为【0,1】,在实际生活中,Beta分布描述的是单变量分布,Dirichlet分布描述的是多变量分布。

  于是乎,Beta分布可以作为二项分布的先验概率Dirichlet分布可以作为多项分布的先验概率

  由于这两个分布均用到了Gamma函数,所以必须先了解Gamma函数。

  Gamma函数的表达式为技术图片其中,x>0

  Gamma函数有如下性质:技术图片

 

  具体推导如下:

  技术图片

  Gamma函数在Beta分布和Dirichlet分布中起到了归一化的作用。

 

  1)Beta分布

  与连续随机变量的分布不同,Beta分布描述的是定义在区间【0,1】上随机变量的概率分布,由两个参数技术图片其概率密度函数为

 

技术图片

(1) 当技术图片均 >1时,Beta分布为上凸的单峰曲线

(2)当技术图片一个大于1,一个小于1时,Beta分布为下凸的的单调函数

(3)当技术图片均 = 1时,Beta分布为常数函数

 

Beta分布的概率密度曲线如下所示:

 技术图片

 

  说明:由于Beta分布式定义在区间【0,1】上的,所以适合作为概率的分布(例如机器的维修率、市场的占有率等等)

  Beta分布的均值和方差分别为:

技术图片

技术图片

 

2)狄利克雷分布(Dirichlet分布)

技术图片

Dirichlet分布的每一个随机变量的统计量如下:

 技术图片

  说明:由于Dirichlet分布描述的是多个定义在区间【0,1】上的随机变量的概率分布,所以通常将其用作多项分布参数 的概率分布。

 

(3)二维随机变量

  1)二维连续随机变量

技术图片

技术图片

技术图片

技术图片

2)二维离散随机变量

 技术图片

 

 

(4)二维连续分布

 

  1)二维均匀分布

  设G是平面上的有界区域,其面积为A,若二维随机随机变量(X,Y)具有如下的概率密度函数,技术图片

  向平面上有界区域G上任意投一个质点,如果质点落在G内任意一个小区域B的概率与小区域的面积成正比,与小区域B的形状与位置无关,那么质点的坐标(X,Y)在G上服从均匀分布。

 

  2)二维正态分布

技术图片

说明:技术图片表示X和Y之间的相关系数。

二维正态分布的边缘密度还是一维的正态分布:

技术图片

相互独立的两个一维正态构成的二位随机变量是服从二维正态的。

 

 

 

 

 

 

 

 

 

以上是关于第三部分 概率_3 多维随机变量的分布的主要内容,如果未能解决你的问题,请参考以下文章

随机信号分析学习—多维随机变量与条件随机变量

第三部分 概率_2 一维随机变量的分布

概率论与数理统计:二维随机变量及其分布

概率论与数理统计

PT@多维随机变量独立性@条件分布

机器学习之HMM