如何使用 Python 计算差异差异方法的置信区间?

Posted

技术标签:

【中文标题】如何使用 Python 计算差异差异方法的置信区间?【英文标题】:How to compute the confidence interval of the Difference in Differences method using Python? 【发布时间】:2021-03-27 15:05:11 【问题描述】:

我正在尝试分析实验前后每位用户的总活跃分钟数。在这里,我包含了相关的 user data before and after the experiment - variant_number = 0 表示对照组,而 1 表示治疗组。具体来说,我对平均值(每位用户的平均总活跃分钟数)感兴趣。

首先,我计算了治疗结果的前后差异和对照结果的前后差异(分别为 -183.7 和 19.4)。在这种情况下,差异的差异 = 203.1。

我想知道如何使用 Python 构建差异差异的 95% 置信区间? (如果需要,我可以提供更多代码/上下文)

【问题讨论】:

【参考方案1】:

您可以使用线性模型并测量交互效果(下面的group[T.1]:period[T.pre])。这些模拟数据的平均差异差异为-223.1779,交互作用的 p 值为 p [-276.360, -169.995]。

import statsmodels.api as sm
import statsmodels.formula.api as smf
import pandas as pd
import numpy as np
np.random.seed(14)

minutes_0_pre = np.random.normal(loc=478, scale=1821, size=39776)
minutes_1_pre = np.random.normal(loc=275, scale=1078, size=9921)

minutes_0_post = np.random.normal(loc=458, scale=1653, size=37425)
minutes_1_post = np.random.normal(loc=458, scale=1681, size=9208)

df = pd.DataFrame('minutes': np.concatenate((minutes_0_pre, minutes_1_pre, minutes_0_post, minutes_1_post)),
                   'group': np.concatenate((np.repeat(a='0', repeats=minutes_0_pre.size),
                                            np.repeat(a='1', repeats=minutes_1_pre.size),
                                            np.repeat(a='0', repeats=minutes_0_post.size),
                                            np.repeat(a='1', repeats=minutes_1_post.size))),
                   'period': np.concatenate((np.repeat(a='pre', repeats=minutes_0_pre.size + minutes_1_pre.size),
                                            np.repeat(a='post', repeats=minutes_0_post.size + minutes_1_post.size)))
                   )
model = smf.glm('minutes ~ group * period', df, family=sm.families.Gaussian()).fit()
print(model.summary())

输出:

Generalized Linear Model Regression Results                  
==============================================================================
Dep. Variable:                minutes   No. Observations:                96330
Model:                            GLM   Df Residuals:                    96326
Model Family:                Gaussian   Df Model:                            3
Link Function:               identity   Scale:                      2.8182e+06
Method:                          IRLS   Log-Likelihood:            -8.5201e+05
Date:                Mon, 18 Jan 2021   Deviance:                   2.7147e+11
Time:                        23:05:53   Pearson chi2:                 2.71e+11
No. Iterations:                     3                                         
Covariance Type:            nonrobust                                         
============================================================================================
                               coef    std err          z      P>|z|      [0.025      0.975]
--------------------------------------------------------------------------------------------
Intercept                  456.2792      8.678     52.581      0.000     439.271     473.287
group[T.1]                  14.9314     19.529      0.765      0.445     -23.344      53.207
period[T.pre]               21.7417     12.089      1.798      0.072      -1.953      45.437
group[T.1]:period[T.pre]  -223.1779     27.134     -8.225      0.000    -276.360    -169.995
============================================================================================

编辑:

由于您的汇总统计数据显示您的分布严重偏斜,因此自举法实际上是一种更可靠的估计置信区间的方法:

r = 1000
bootstrap = np.zeros(r)

for i in range(0, r):
    sample_index = np.random.choice(a=range(0, df.shape[0]), size=df.shape[0], replace=True)
    df_sample = df.iloc[sample_index]
    model = smf.glm('minutes ~ group * period', df_sample, family=sm.families.Gaussian()).fit()
    bootstrap[i] = model.params.iloc[3]  # interaction

bootstrap = pd.DataFrame(bootstrap, columns=['interaction'])
print(bootstrap.quantile([0.025, 0.975]).T)

输出:

                  0.025       0.975
interaction -273.524899 -175.373177

【讨论】:

以上是关于如何使用 Python 计算差异差异方法的置信区间?的主要内容,如果未能解决你的问题,请参考以下文章

你如何计算 Python 中 Pearson's r 的置信区间?

SPSS参数的区间估计

用survreg()和gsurvplot()绘制生存分析置信区间。

置信区间(Confidence Intervals)是什么?如何计算置信区间?置信区间的两种计算方法是什么?二值样本置信区间如何计算?如何基于bootstrap抽样进行置信区间计算?

如何在 Python 中绘制置信区间?

如何使用 Python 获得 Weibull 分布的置信区间?