概率论与数理统计 Chapter4. 参数估计
Posted Espresso Macchiato
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了概率论与数理统计 Chapter4. 参数估计相关的知识，希望对你有一定的参考价值。
1. 基础概念
1. 总体
- 总体是指与与所研究的问题有关的对象个体的全体所构成的集合，它是一个概率分布。
2. 样品
- 样品是按照一定的规定从总体中仇取出来的一部分个体。其中抽取的样品数量称之为样本大小，样本容量或者样本量。
3. 统计量
- 统计量是指完全由样本所决定的量。
1. 样本方差
S 2 = ∑ i = 1 n ( X i − X ˉ ) 2 / ( n − 1 ) S^2 = \\sum_i=1^n(X_i - \\barX)^2 / (n-1) S2=i=1∑n(Xi−Xˉ)2/(n−1)
2. k阶原点矩
a k = ∑ i = 1 n X i k / n a_k = \\sum_i=1^nX_i^k / n ak=i=1∑nXik/n
3. k阶中心矩
M k = ∑ i = 1 n ( X i − X ˉ ) k / n M_k = \\sum_i=1^n(X_i - \\barX)^k / n Mk=i=1∑n(Xi−Xˉ)k/n
2. 参数的点估计
1. 矩估计
矩估计的核心思路就是使用样品的原点矩进行参数估计，在已知样品分布函数的情况下，我们可以求出样本的中心矩，然后我们在实际的采样样本当中求出对应的中心矩的值，然后就可以反解分布函数当中的参数了。
我们结合第三章的内容就可以快速地给出一些比较重要的分布函数的参数估计了。
1. 正态分布
对于正态分布：
f ( x ) = 1 2 π ⋅ σ ⋅ e x p ( − ( x − μ ) 2 2 σ 2 ) f(x) = \\frac1\\sqrt2\\pi \\cdot \\sigma \\cdot exp(-\\frac(x-\\mu)^22\\sigma^2) f(x)=2π⋅σ1⋅exp(−2σ2(x−μ)2)
由之前第三章的知识，我们已知：
E ( X ) = μ E(X) = \\mu E(X)=μ
V a r ( X ) = σ 2 Var(X) = \\sigma^2 Var(X)=σ2
此时，我们用均值 X ˉ \\barX Xˉ来估计 E X EX EX，用 S 2 S^2 S2来估计方差，就可以反解得到参数 μ \\mu μ与 σ 2 \\sigma^2 σ2。
需要额外提及一下的是，这里使用的是样本方差 S 2 S^2 S2来对 V a r ( X ) Var(X) Var(X)进行估计，而没有采用二阶中心矩 m 2 m_2 m2，这里的原因在于无偏性的考虑，这部分的原因会在后续的点估计优良性准则当中进行介绍。
2. 指数分布
对于指数分布：
f ( x ) = λ ⋅ e − λ x f(x) = \\lambda \\cdot e^-\\lambda x f(x)=λ⋅e−λx
根据上一章的内容，我们知道 E ( X ) = 1 / λ E(X) = 1/\\lambda E(X)=1/λ，因此，我们可以快速地通过样本均值 X ˉ \\barX Xˉ来对 λ \\lambda λ进行估计:
λ = 1 / X ˉ \\lambda = 1/\\barX λ=1/Xˉ
3. 均匀分布
同样的，对于均匀分布 f ( x ) = 1 b − a f(x) = \\frac1b-a f(x)=b−a1，我们根据上一章节的内容，可以得到均匀分布的均值和方差为 E ( X ) = a + b 2 E(X) = \\fraca+b2 E(X)=2a+b， V a r ( X ) = = ( b − a ) 2 / 12 Var(X) = = (b-a)^2/12 Var(X)==(b−a)2/12。
因此，我们可以用样本的均值 X ˉ \\barX Xˉ和二阶中心矩 m 2 m_2 m2对参数 a a a和 b b b进行估计，得到：
a = X ˉ − 3 m 2 b = X ˉ + 3 m 2 \\left\\ \\beginaligned a &= \\barX - \\sqrt3m_2\\\\ b &= \\barX + \\sqrt3m_2 \\endaligned \\right. ab=Xˉ−概率论与数理统计:参数估计