11三个重要统计量的分布

Posted rrrrraulista

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了11三个重要统计量的分布相关的知识,希望对你有一定的参考价值。

【11】三个重要统计量的分布(1)

假设检验问题的基础内容,三大抽样分布在多元形态下的推广。

分量独立的 (n) 维随机向量(X)的二次型

(chi^2)得复习节。。。

(X_isim N_1(mu_i,sigma^2)(i=1,...,n)),且相互独立,记

[X=left[egin{array}{c} X‘_1vdotsX‘_n end{array} ight] ]

(Xsim N_n(mu=(mu_1,...,mu_n)‘,sigma^2I_n)).

  • (mu_i=0,(i=1,...,n),sigma^2=1)时(每一个都是标准正态):

[xi=X‘X=sum_{i=1}^nX_i^2simchi^2(n)(卡方分布) ]

  • (mu_i=0,sigma^2 eq1)时,(凑成标准正态)

[frac1{sigma^2}sum_{i=1}^nX_i^2=frac1{sigma^2}X‘Xsimchi^2(n) ]

  • (color{red}mu_i eq0)时,(X‘X)的分布称为非中心(chi^2)分布。

(def)

({r.v.} X_{n imes1}sim N_n(mu,I_n),(mu eq0)),则称 (xi=X‘X) 为服从 (n) 个自由度,非中心参数 (delta=mu‘mu=sum_{i=1}^nmu^2_i)(chi^2) 分布,记为:

[X‘Xsimchi^2(n,delta)color{gray}orcolor{black}chi^2_{n}(delta) ]

(推广)

如何将一般的正态随机向量 (协方差矩阵不是单位阵) 转化成服从 (chi^2)分布。

(Xsim N_p(mu,Sigma>0)),则(X‘Sigma^{-1}Xsimchi^2(p,delta=mu‘Sigma^{-1}mu)).

由于(Sigma)是正定矩阵,则可以分解为非退化方阵的乘积:(Sigma=CC‘),则令 (Y=C^{-1}X),于是有:

[Ysim N(C^{-1}mu,C^{-1}Sigma(C^{-1})‘) ]

因为(Sigma=CC‘)所以,(Ysim N_p(C^{-1}mu,I_n)),且有:

[X‘Sigma^{-1}X=Y‘C‘Sigma^{-1}CY=Y‘Ysim chi^2(p,delta) ]

其中:

[delta=(C^{-1}mu)‘(C^{-1}mu)=mu‘Sigma^{-1}mu ]

  • (对称幂等矩阵)

【结论很重要】

(Xsim N_n(0_n,sigma^2I_n)), (A) 为对称矩阵,(rank(A)=r) ,则二次型:(frac{X‘AX}{sigma^2}simchi^2(r)Leftrightarrow A^2=A).

( ightrightarrows)

因为 (A) 是对称矩阵,所以存在正交阵 (Gamma) 使得:

[Gamma‘AGamma=diag(lambda_1,...,lambda_r,0,...,0) ]

[Y=Gamma‘Xsim N_n(0_n,sigma^2I_n),X=Gamma Y ]

[xi=X‘AX/sigma^2=Y‘Gamma‘AGamma Y/sigma^2=sum_{i=1}^rlambda_iY_i^2/sigma^2 ]

(Y_1,...,Y_r)独立同(N(0,sigma^2))分布,因此,(Y_i^2/sigma^2simchi^2(1),(i=1,...,r)),且相互独立。

(sum_{i=1}^rlambda_iY_i^2/sigma^2)的特征函数为:

[(1-2ilambda_1t)^{-1/2}(1-2ilambda_2t)^{-1/2}...(1-2ilambda_rt)^{-1/2} ]

又因为(xi=X‘AX/sigma^2simchi^2(r)),因此他的特征函数为:

[(1-2it)^{-r/2}=(1-2ilambda_1t)^{-1/2}(1-2ilambda_2t)^{-1/2}...(1-2ilambda_rt)^{-1/2} ]

比较得:(lambda_1=...=lambda_r=1),于是:

[diag(1,...,1,0,...,0)=Gamma‘AGamma=Gamma‘AGammacdotGamma‘AGamma=Gamma‘A^2Gamma ]

所以(A)是对称幂等矩阵。

(leftleftarrows)

对称幂等矩阵的特征值非0即1,且只有r个非0特征值,即:

[Gamma‘AGamma=left[egin{array}{cc}I_r&OO&Oend{array} ight] ]

(Y=Gamma‘X),则 (Ysim N_n(0_n,sigma^2Gamma‘I_nGamma)=N_n(0_n,sigma^2I_n)).

[frac{X‘AX}{sigma^2}=frac{Y‘Gamma‘AGamma Y}{sigma^2}=frac1{sigma^2}Y‘left[egin{array}{cc}I_r&OO&Oend{array} ight]Y=frac1{sigma^2}sum_{i=1}^rY_i^2simchi^2(r) ]

  • (二次型与线性函数的独立性)

(Xsim N_n(mu,sigma^2I_n))(A)(n)阶对称矩阵,(B)(m imes n)矩阵,令 (xi=X‘AX,Z_{m imes1}=BX) ,若 (BA=O) , 则(BX,X‘AX) 相互独立

顺序不能换。

  • (两个二次型相互独立)

(Xsim N_n(mu,sigma^2I_n)) , (A,B)(n) 阶对称矩阵,则:

[AB=OquadLeftrightarrowquad X‘AX,,,X‘BX相互独立 ]

(chi^2 o Wishart)分布

(X_{(alpha)}sim N_p(0,Sigma),(alpha=1,...,n))相互独立,记(X=(X_{(1)},...,X_{(n)})‘)(n imes p)维矩阵,则称

[W=sum_{alpha=1}^nX_{(alpha)}X_{(alpha)}‘=X‘X ]

的分布为(color{red}Wishart)分布,记为:(Wsim W_p(n,Sigma)).

  • (p=1)时,(X_{(alpha)}sim N_1(0,sigma^2),W=sum X_{(alpha)}^2simsigma^2chi^2(n)).

一般的,(X_{(alpha)}sim N_p(mu_alpha,Sigma),(alpha=1,...,n))相互独立,记

[M=left(egin{array}{ccc}mu_{11}&cdots&mu_{1p}vdots&&vdotsmu_{n1}&cdots&mu_{np}end{array} ight)=left(egin{array}{c}mu‘_{1}vdotsmu_{n}‘end{array} ight) ]

则称(W=X‘X)服从非中心参数为 (Delta=M‘M=summu_{alpha}mu_{alpha}‘)非中心威沙特分布,记为(Wsim W_p(n,Sigma,Delta))

性质

  • (X_{(alpha)}sim N_p(0,Sigma),(alpha=1,...,n))相互独立,则样本离差阵(A)服从威沙特分布,即:

[A=sum_{i=1}^n(X_{(i)}-overline{X})(X_{(i)}-overline{X})‘sim W_p(n-1,Sigma) ]

  • (W_isim W_p(n_i,Sigma),(i=1,...,k))相互独立,则

[sum_{i=1}^kW_isim W_p(n,Sigma) ]

其中 (n=n_1+cdots+n_k).

  • (p)阶随机阵(Wsim W_p(n,Sigma)).C是(m imes p)常数阵,则(m)阶随机阵(CWC‘)也服从威沙特分布,即:(CWC‘sim W_m(n,CSigma C‘)).
    • (aWsim W_p(n,aSigma),(a>0,为常数));
    • (l‘=(l_1,...,l_p)),则(l‘Wl=xisim W_1(n,l‘Sigma l)),即:(xisimsigma^2chi^2(n)),其中:(sigma^2=l‘Sigma l).
  • 分块威沙特矩阵:
技术图片

以上是关于11三个重要统计量的分布的主要内容,如果未能解决你的问题,请参考以下文章

自助法(bootstrap)在统计检验中的应用及R语言实现过程

统计学中比较重要的分布及python中使用方法

[公式推导]一般线性秩统计量的方差函数 及其 极限分布

R语言与统计-3:卡方检验

回归模型在变量重要性方面的比较

概率笔记5——概率分布