概率统计——讲透最经典的三种概率分布

Posted 2021-03-15 techflow

本文始发于个人公众号：TechFlow

这一讲当中我们来探讨三种经典的概率分布，分别是伯努利分布、二项分布以及多项分布。

在我们正式开始之前，我们先来明确一个概念，我们这里说的分布究竟是什么？

无论是在理论还是实际的实验当中，一个事件都有可能有若干个结果。每一个结果可能出现也可能不出现，对于每个事件而言出现的可能性就是概率。而分布，就是衡量一个概率有多大。

伯努利分布

明确了分布的概念之后，我们先从最简单的伯努利分布开始。

伯努利分布非常简单，就是假设一个事件只有发生或者不发生两种可能，并且这两种可能是固定不变的。那么，显然，如果假设它发生的概率是p，那么它不发生的概率就是1-p。这就是伯努利分布。

生活中所有只可能出现两种结果并且概率保持不变的事件都可以认为服从伯努利分布，比如抛硬币，比如生孩子是男孩还是女孩。

伯努利实验就是做一次服从伯努利概率分布的事件，它发生的可能性是p，不发生的可能性是1-p。

二项分布

我们明确了伯努利分布之后再来看二项分布就简单了。说白了二项分布其实就是多次伯努利分布实验的概率分布。

以抛硬币举例，在抛硬币事件当中，每一次抛硬币的结果是独立的，并且每次抛硬币正面朝上的概率是恒定的，所以单次抛硬币符合伯努利分布。我们假设硬币正面朝上的概率是p，忽略中间朝上的情况，那么反面朝上的概率是q=(1-p)。我们重复抛n次硬币，其中有k项正面朝上的事件，就是二项分布。

我们来试着推导一下二项分布的公式：

假设我们抛了4次硬币，每一次都有两种可能，既可能正面朝上，也可能反面朝上。所以一共存在(2^4=16)种情况，假设我们想知道4次当中有两次正面朝上的概率。我们写成(P(X=2))，它应该是多少呢？

我们先来看一种情况，假设某一次抛掷当中，我们的结果是正正反反，记作：OOXX。那么，它的概率应该是(P=ppqq=p^2q^2)，但是这只是一种正面朝上两次的情况，与它相同的情况还有：

[ egin{equation} P(OXOX)=pqpq=p^2q^2 P(OXXO)=pqqp=p^2q^2 P(XOXO)=qpqp=p^2q^2 P(XOOX)=qppq=p^2q^2 P(XXOO)=qqpp=p^2q^2 end{equation} ]

以上的这5种都是两次正面朝上的情况，都满足要求，所以我们在计算概率的时候，需要乘上可能会导致两个正面朝上的种数。也就是说我们知道某一种(P(X=2))的情况发生的概率是(p^2q^2)，但是这样的情况一共有6种，所以我们需要乘上6.

那么我们怎么知道在n次试验当中，X=k的情况存在多少种呢？

这里就需要用到排列组合的知识，我想这一块在初高中数学课本上都有涉及。我们简单回顾一下。

排列

排列，指的是从n个项目当中选出k个来排成一排的情况种数。

我们设想一下，假设面前有5个人，我们要选出两个人来排成一排，一共有几种情况呢？由于是排列，所以这带个人的排列顺序是会对结果产生影响的。同样是AB两个人，A和B与B和A会被视为不同的情况。所以，显然第一个人有5种选择，第二个人有4种选择，所以总共有20种选择。

我们推广这个公式，当人数是n，候选人数是k的时候，情况种数应该是：

[P_n^k=n*(n-1)*(n-2)*cdots *(n-k+1)=prod_{i=n}^{n-k+1}i=frac{n!}{(n-k)!}]

组合

组合和排列很类似，唯一不同的是在组合当中不用考虑选出项的次序情况。排列是选出人来排成一排，那么组合是选出人来一起去做某件事。这些选出的人先后次序并不重要，重要的是组成。

还是5个人里挑选两个的情况，第一个人有5种选择，第二个人有4种选择。但这里我们还需要去除这选出来的两个人的排列的情况。2个人的排列一共有2种，所以最后的结果是5 * 4 / 2=10.

我们来推导一下公式，n个人里面选k个的排列有(frac{n!}{(n-k)!})，而k个人的全排列有：(k!)种，所以两者相除就是组合数的结果：

[C_n^k=frac{n!}{(n-k)!k!}]

我们有了组合的公式之后，带入前文当中二项分布。我们做n次试验，其中有k个发生某事件的情况总数是(C_n^k)，所以总体的概率(P(X=k)=C_n^kp^kq^{n-k})。

我们明白了二项分布之后，继续来看多项式分布。

多项式分布

多项式分布也很简单，是在二项分布的基础上进一步的拓展。

在现实世界当中，并不是所有事件都只有两个结果，最简单的例子就是骰子。我们每次投骰子会产生1-6，一共6种结果。我们假设这6种结果发生的概率分别是p1, p2, p3, p4, p5和p6，那么显然(sum_{i=1}^6p_i=1)。在多项式分布当中，我们会问进行n次试验，这6种可能性分别出现的次数是(x1, x2, x3, x4, x5, x6)的概率是多少？

显然，如果(sum_{i=1}^6x_i eq n)，那么概率为0. 我们讨论相等时候的情况。

我们先计算一种组合发生的概率，不论这n项的顺序如何，显然都有(P=p_1^{x_1}p_2^{x_2}cdots p_6^{x_6})，那么这样的组合一共有多少个呢？

我们用组合公式来计算，首先是从n项中选出x1项来，一共有：(C_n^{x_1}=frac{n!}{(n-x_1)!x_1!})。接着我们再选x2项，一共有：(C_{n-x_1}^{x_2}=frac{(n-x_1)!}{(n-x_1-x_2)!x_2!})。我们依次写出这6项，然后乘到一起，消除同类项之后，得到的结果是：

[C=frac{n!}{x_1!x_2!cdots x_6!}]

最终的概率就是组合数乘上单个组合的概率：

[P(x_1, x2, cdots, x_6)=frac{n!}{x_1!x_2!cdots x_6!}p_1^{x_1}p_2^{x_2}cdots p_6^{x_6}]

我们对比它和二项分布的公式，会发现，其实二项分布就是多项分布的一种特殊情况。而伯努利分布就是二项分布中n=1的特殊情况。这三种分布虽然各不相同，但是本质之间有着很深的联系，也因此，我们将它们放在一篇文章当中介绍。

到这里，关于这三种分布的介绍就结束了。如果觉得学有收获，就扫码给个关注吧~