概率论与数理统计:大数定律与中心极限定律
Posted 临风而眠
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了概率论与数理统计:大数定律与中心极限定律相关的知识，希望对你有一定的参考价值。
概率论与数理统计(5):大数定律与中心极限定律
文章目录
引入
大数定律和中心极限定律是重要的极限定理
大数定律是叙述随机变量序列的一些项的前一些项的算术平均值在某种条件下收敛到这些项的均值的算术平均值
中心极限定律是确定在什么条件下，大量随机变量之和的分布逼近于正态分布
一.切比雪夫不等式
对于任意随机变量
X
X
X,若方差
D
X
DX
DX存在，则对任意的
ε
>
0
\\varepsilon>0
ε>0,有
P
{
∣
X
−
E
X
∣
⩾
ε
}
⩽
D
X
ε
2
o
r
P
{
∣
X
−
E
X
∣
<
ε
}
⩾
1
−
D
X
ε
2
P\\{|X-EX|\\geqslant \\varepsilon\\}\\leqslant \\dfrac{DX}{\\varepsilon^2}\\qquad or\\qquad P\\{|X-EX|<\\varepsilon\\}\\geqslant1-\\dfrac{DX}{\\varepsilon^2}
P{∣X−EX∣⩾ε}⩽ε2DXorP{∣X−EX∣<ε}⩾1−ε2DX
证明：
就连续型随机变量的情况来证明：设随机变量
X
X
X的数学期望为
E
(
X
)
E(X)
E(X)，方差为
D
(
X
)
=
σ
2
D(X)=\\sigma^2
D(X)=σ2,概率密度为
f
(
x
)
f(x)
f(x),则有
P
{
∣
X
−
μ
∣
⩾
ε
}
=
∫
∣
X
−
μ
∣
⩾
ε
f
(
x
)
d
x
⩽
∫
∣
X
−
μ
∣
⩾
ε
∣
x
−
μ
∣
2
ε
2
f
(
x
)
d
x
⩽
1
ε
2
∫
∞
∞
(
x
−
μ
)
2
f
(
x
)
d
x
=
σ
2
ε
2
P\\{|X-\\mu|\\geqslant \\varepsilon\\}=\\int_{|X-\\mu|\\geqslant \\varepsilon}f(x)dx\\leqslant \\int_{|X-\\mu|\\geqslant \\varepsilon} \\dfrac{|x-\\mu|^2}{\\varepsilon^2}f(x)dx\\leqslant \\dfrac{1}{\\varepsilon^2} \\int_{\\infty}^{\\infty}(x-\\mu)^2 f(x)dx=\\dfrac{\\sigma^2}{\\varepsilon^2}
P{∣X−μ∣⩾ε}=∫∣X−μ∣⩾εf(x)dx⩽∫∣X−μ∣⩾εε2∣x−μ∣2f(x)dx⩽ε21∫∞∞(x−μ)2f(x)dx=ε2σ2
（当X为离散型随机变量时，只需在证明中，把概率密度换为分布列，积分号换为求和号即可）
切比雪夫不等式给出了在随机变量 X X X的分布未知，只知道 E ( X ) E(X) E(X)和 D ( X ) D(X) D(X)的情况下，对事件 { ∣ X − E ( X ) ∣ ⩽ ε } \\{|X-E(X)|\\leqslant \\varepsilon\\} {∣X−E(X)∣⩽ε}概率的下限
二.大数定律
引入
1.切比雪夫大数定理
设
X
1
,
X
2
,
.
.
.
,
X
n
X_1,X_2,...,X_n
X1,X2,...,Xn是相互独立的随机变量序列，若有常数
C
C
C使
D
X
i
⩽
C
DX_i\\leqslant C
DXi⩽C,则对任意
ε
>
0
,
\\varepsilon>0,
ε>0,有
lim
n
→
∞
P
{
∣
1
n
∑
i
=
1
n
X
i
−
1
n
∑
i
=
1
n
E
X
i
∣
<
ε
}
=
1
o
r
lim
n
→
∞
P
{
∣
1
n
∑
i
=
1
n
X
i
−
1
n
∑
i
=
1
n
E
X
i
∣
⩾
ε
}
=
0
\\lim\\limits_{n\\rightarrow \\infty}P\\{\\bigg|\\dfrac{1}{n}\\sum_ {i=1}^nX_i-\\dfrac{1}{n}\\sum_ {i=1}^nEX_i\\bigg|<\\varepsilon\\}=1 \\quad or \\quad \\lim_{n\\rightarrow \\infty}P\\{\\bigg| \\dfrac{1}{n}\\sum_ {i=1}^nX_i-\\dfrac{1}{n}\\sum_ {i=1}^nEX_i\\bigg|\\geqslant\\varepsilon \\}=0
n→∞limP{∣∣∣∣n1i=1∑nXi−n1i=1∑nEXi∣∣∣∣<ε}=1orn→∞limP{∣∣∣∣n1i=1∑nXi−n1i=1∑nEXi∣∣∣∣⩾ε}=0
证明：
E ( 1 n ∑ i = 1 n E X i ) = 1 n ∑ i = 1 n E X i D ( 1 n ∑ i = 1 n E X i ) = 1 n 2 ∑ i = 1 n D X i ⩽ C n E(\\frac{1}{n}\\sum_{i=1}^nEX_i)=\\frac{1}{n}\\sum_{i=1}^nEX_i\\\\ D(\\frac{1}{n}\\sum_{i=1}^nEX_i)=\\frac{1}{n^2}\\sum_{i=1}^nDX_i\\leqslant \\frac{C}{n} E(n1i=1∑nEXi)=以上是关于概率论与数理统计:大数定律与中心极限定律的主要内容，如果未能解决你的问题，请参考以下文章