统计学（45）-利用Bootstrap法估计置信区间

Posted 2023-05-11

参考技术A

我们刚才提到了均数、率的置信区间的计算，这些都服从一定的分布(t分布、正态分布），因此在标准误前乘以相应的t分值或Z分值。但如果我们想知道中位数的置信区间，那该怎么办呢？
中位数一般用在偏态分布的情况下，这时候就不好确定其分布面积0.05所对应的分值了。
是不是就没有方法了呢？
事实上，不仅中位数，还有其他参数同样面临这一问题。当找不到合适的分布时，就无法计算置信区间了吗？幸运的是，有一种方法几乎可以用于计算各种参数的置信区间，这就是Bootstrap 法。
Bootstrap估计是利用重复抽样的方法对参数进行估计的，它是在计算机普及以后才开始发展起来的，因为如果没有计算机辅助进行重复抽样，靠手工是极其麻烦的。

统计最核心的思想是什么？我想现在可以理解为就是估计，部分估计总体
假定我们从某所学校中随机抽样调查了20名学生的身高，打算通过这20人的身高估计该学校所有学生（如200 人）的身高。

Bootstrap估计的思路就是从这20人中重复抽样。具体来说，以这20人作为抽样框，做1000次抽样（当然也可以是100次、2000次、甚至10000次等，视具体情况而定），有放回抽样！

（1）根据Bootstrap 抽样，可以对每次抽样都计算出一个均数。
（2）然后以这10个均数作为原始数据，求出这10个均数的均数为166.15, 这就是利用Bootstrap 法进行的点估计。
（3）对于95%置信区间，则分别计算出第2.5%和第97.5%的分位数，如本例为164.25和169.75,这也就是估计的总体均值的95%置信区间，与常规方法计算的95%置信区间比较接近。

（1）百分位数法简单易懂，无须复杂计算，只要有了Bootstrap 样本及每个样本的统计量，找到相应的百分位数即可。
（2）它必须满足一个潜在的假定，即Bootstrap 抽样分布是样本统计量分布的一个无偏估计，当有偏的时候，估计结果可能也会有偏，因此会用百分位数t法。
（3）t法对于95%置信区间，确定0.025和0.975的百分位数，则95%置信区间为：

传统的参数推断主要依赖中心极限定理，因为它规定在大样本条件下，抽样分布都是服从正态分布的。但对于某些抽样分布未知或难以计算的统计量， Bootstrap 法就十分有用了。

事实上，即使对于参数推断， Bootstrap 法也可以显示出与其同样的功效。
（1）计算两个中位数之差的置信区间
采用Bootstrap法的思路是：从样本数据中重复抽取1000次样本，每次抽取n例。在每个Bootstrap样本中，计算两组的中位数之差，最终可计算出1000个中位数之差。然后根据这1000个中位数之差，计算出它们的第2.5 百分位数和第97.5百分位数，这就是两个中位数之差的95%置信区间。如果该置信区间不包含0, 则可以认为两组差异有统计学意义；否则认为两组差异无统计学意义。
（2）计算回归系数的置信区间
假定样本数据有因变量y和自变量x, 采用Bootstrap 法的思路是：从样本数据中重复抽取1000次样本，每个样本都包含y和x, 每次抽取n例。在每个Bootstrap样本中，求出y=a+bx的系数a和b (当然我们关心的是回归系数b) 。最终可计算出1000个回归系数b。然后根据这1000 个回归系数，计算出它们的第2.5百分位数和第97.5百分位数，这就是回归系数的95%置信区间。如果该置信区间不包含0, 则可以认为该回归系数有统计学意义；否则认为该回归系数无统计学意义。( 0,我不懂，是无效假设吗？ )
回归分析的Bootstrap抽样不应进行个体数据的重复抽样，而是要对误差进行重复抽样。因为他们认为，自变量是固定的，只有误差项才是随机的。 （这句话，我也没看懂）

置信区间、显著性检验和统计学意义

置信区间、显著性检验和统计学意义置信区间估计参数真值所在的范围通常以区间的形式给出，同时还给出此区间包含参数真值的可信程度，这种形

参考技术A 置信区间、显著性检验和统计学意义
置信区间
估计参数真值所在的范围通常以区间的形式给出，同时还给出此区间包含参数真值的可信程度，这种形式的估计称为区间估计，这样的区间称为置信区间。
对于任意参数θ在可能的取值范围内，Pθ1<θ<θ2≥1-α，则称随机区间（θ1，θ2）是参数θ的置信水平为1-α的置信区间，θ1和θ2分别称为置信水平为1-α的双侧置信区间的置信下限和置信上限，1-α称为置信水平。
对于特殊问题，我们关心的是重点在于参数θ的上限或下限，比如对于设备的使用寿命，关心平均寿命的“下限”；对于药品中杂质含量，关心平均含量的“上限”。对于任意参数θ在可能的取值范围内，Pθ<θ2≥1-α或Pθ>θ1≥1-α，则称随机区间（-∞，θ2）或（θ1，∞）是参数θ的置信水平为1-α的单侧置信区间，θ1和θ2分别称为置信水平为1-α的单侧置信下限和单侧置信上限。
显著性检验
统计推断（statistical inference），是根据带随机性的观测数据（样本）以及问题的条件和假定（模型），而对未知事物，作出的以概率形式表述的推断。主要包括参数估计和假设检验。
参数估计包括点估计和区间估计。点估计包括矩估计法和最大似然估计法。
假设检验：在总体的分布函数完全未知或只知其形式、但不知其参数的情况，为了推断总体的某些未知特性，提出某些关于总体的假设。再根据样本，对所提出的假设作出是接受，还是拒绝的决策。假设检验是作出这一决策的过程。
对两者有无显著性差异的判断是在显著性水平α之下作出的。显著性水平α为满足原假设时，发生不可能事件的概率的上限。如果样本发生的概率小于显著性水平α，证明小概率事件（不可能事件）发生了，样本与假设的差异是显著的，故拒绝原假设；否则，接受原假设。显著性水平α即为拒绝原假设的标准。P值和sig值表示在原假设的条件下，样本发生的概率，也是拒绝原假设的依据。
由于检验法则是根据样本作出的，总有可能作出错误的决策。在原假设为真时，可能犯拒绝原假设的错误，称这类“弃真”的错误为第一类错误；在原假设为不真时，有可能接受原假设，称这类“取伪”的错误为第二类错误。
一般来说，我们总是控制第一类错误的概率，使它不大于显著性水平α。α的大小视具体情况而定，通常取0.1,0.05,0.01,0.005 等值。只对第一类错误的概率加以控制，而不考虑第二类错误的概率的检验，称为显著性检验。区分双边假设检验和单边假设检验。
无论是显著性相关，还是显著性差异，显著性表示的意义为出现该情况的概率大于1-α。
Z检验：单个总体，方差已知，关于均值的检验。
T检验：单个总体，方差未知，关于均值的检验；两个总体，方差相同，关于均值差的检验；两个总体，方差未知，配对出现，关于均值差的检验（配对t检验：配对求差值，构成单个总体）。
卡方检验：单个总体，均值未知，关于方差的检验。
F检验：两个总体，均值未知，关于方差的检验。
T检验、F检验和统计学意义（P值或sig值）
1. T检验和F检验的由来
一般而言，为了确定从样本(sample)统计结果推论至总体时所犯错的概率，我们会利用统计学家所开发的一些统计方法，进行统计检定。
通过把所得到的统计检定值，与统计学家建立了一些随机变量的概率分布(probability distribution)进行比较，我们可以知道在多少%的机会下会得到目前的结果。倘若经比较后发现，出现这结果的机率很少，亦即是说，是在机会很少、很罕有的情况下才出现；那我们便可以有信心的说，这不是巧合，是具有统计学上的意义的(用统计学的话讲，就是能够拒绝虚无假设nullhypothesis,Ho)。相反，若比较后发现，出现的机率很高，并不罕见；那我们便不能很有信心的直指这不是巧合，也许是巧合，也许不是，但我们没能确定。
F值和t值就是这些统计检定值，与它们相对应的概率分布，就是F分布和t分布。统计显著性（sig）就是出现目前样本这结果的机率。
2. 统计学意义（P值或sig值）
19楼空间eo-y"k8w%p~;u结果的统计学意义是结果真实程度（能够代表总体）的一种估计方法。专业上，p值为结果可信程度的一个递减指标，p值越大，我们越不能认为样本中变量的关联是总体中各变量关联的可靠指标。p值是将观察结果认为有效即具有总体代表性的犯错概率。如p=0.05提示样本中变量关联有5%的可能是由于偶然性造成的。即假设总体中任意变量间均无关联，我们重复类似实验，会发现约20个实验中有一个实验，我们所研究的变量关联将等于或强于我们的实验结果。（这并不是说如果变量间存在关联，我们可得到5%或95%次数的相同结果，当总体中的变量存在关联，重复研究和发现关联的可能性与设计的统计学效力有关。）在许多研究领域，0.05的p值通常被认为是可接受错误的边界水平。
通常，原假设为无差别，若P值小于边界水平（比如0.05），小概率事件发生了，推翻原假设，认为差别是显著的。
所有的检验统计都是正态分布的吗
并不完全如此，但大多数检验都直接或间接与之有关，可以从正态分布中推导出来，如t检验、f检验或卡方检验。这些检验一般都要求：所分析变量在总体中呈正态分布，即满足所谓的正态假设。许多观察变量的确是呈正态分布的，这也是正态分布是现实世界的基本特征的原因。当人们用在正态分布基础上建立的检验分析非正态分布变量的数据时问题就产生了，（参阅非参数和方差分析的正态性检验）。这种条件下有两种方法：一是用替代的非参数检验（即无分布性检验），但这种方法不方便，因为从它所提供的结论形式看，这种方法统计效率低下、不灵活。另一种方法是：当确定样本量足够大的情况下，通常还是可以使用基于正态分布前提下的检验。后一种方法是基于一个相当重要的原则产生的，该原则对正态方程基础上的总体检验有极其重要的作用。即，随着样本量的增加，样本分布形状趋于正态，即使所研究的变量分布并不呈正态。