如何使用 Python 计算差异差异方法的置信区间?
Posted
技术标签:
【中文标题】如何使用 Python 计算差异差异方法的置信区间?【英文标题】:How to compute the confidence interval of the Difference in Differences method using Python? 【发布时间】:2021-03-27 15:05:11 【问题描述】:我正在尝试分析实验前后每位用户的总活跃分钟数。在这里,我包含了相关的 user data before and after the experiment - variant_number = 0 表示对照组,而 1 表示治疗组。具体来说,我对平均值(每位用户的平均总活跃分钟数)感兴趣。
首先,我计算了治疗结果的前后差异和对照结果的前后差异(分别为 -183.7 和 19.4)。在这种情况下,差异的差异 = 203.1。
我想知道如何使用 Python 构建差异差异的 95% 置信区间? (如果需要,我可以提供更多代码/上下文)
【问题讨论】:
【参考方案1】:您可以使用线性模型并测量交互效果(下面的group[T.1]:period[T.pre]
)。这些模拟数据的平均差异差异为-223.1779
,交互作用的 p 值为 p [-276.360, -169.995]。
import statsmodels.api as sm
import statsmodels.formula.api as smf
import pandas as pd
import numpy as np
np.random.seed(14)
minutes_0_pre = np.random.normal(loc=478, scale=1821, size=39776)
minutes_1_pre = np.random.normal(loc=275, scale=1078, size=9921)
minutes_0_post = np.random.normal(loc=458, scale=1653, size=37425)
minutes_1_post = np.random.normal(loc=458, scale=1681, size=9208)
df = pd.DataFrame('minutes': np.concatenate((minutes_0_pre, minutes_1_pre, minutes_0_post, minutes_1_post)),
'group': np.concatenate((np.repeat(a='0', repeats=minutes_0_pre.size),
np.repeat(a='1', repeats=minutes_1_pre.size),
np.repeat(a='0', repeats=minutes_0_post.size),
np.repeat(a='1', repeats=minutes_1_post.size))),
'period': np.concatenate((np.repeat(a='pre', repeats=minutes_0_pre.size + minutes_1_pre.size),
np.repeat(a='post', repeats=minutes_0_post.size + minutes_1_post.size)))
)
model = smf.glm('minutes ~ group * period', df, family=sm.families.Gaussian()).fit()
print(model.summary())
输出:
Generalized Linear Model Regression Results
==============================================================================
Dep. Variable: minutes No. Observations: 96330
Model: GLM Df Residuals: 96326
Model Family: Gaussian Df Model: 3
Link Function: identity Scale: 2.8182e+06
Method: IRLS Log-Likelihood: -8.5201e+05
Date: Mon, 18 Jan 2021 Deviance: 2.7147e+11
Time: 23:05:53 Pearson chi2: 2.71e+11
No. Iterations: 3
Covariance Type: nonrobust
============================================================================================
coef std err z P>|z| [0.025 0.975]
--------------------------------------------------------------------------------------------
Intercept 456.2792 8.678 52.581 0.000 439.271 473.287
group[T.1] 14.9314 19.529 0.765 0.445 -23.344 53.207
period[T.pre] 21.7417 12.089 1.798 0.072 -1.953 45.437
group[T.1]:period[T.pre] -223.1779 27.134 -8.225 0.000 -276.360 -169.995
============================================================================================
编辑:
由于您的汇总统计数据显示您的分布严重偏斜,因此自举法实际上是一种更可靠的估计置信区间的方法:
r = 1000
bootstrap = np.zeros(r)
for i in range(0, r):
sample_index = np.random.choice(a=range(0, df.shape[0]), size=df.shape[0], replace=True)
df_sample = df.iloc[sample_index]
model = smf.glm('minutes ~ group * period', df_sample, family=sm.families.Gaussian()).fit()
bootstrap[i] = model.params.iloc[3] # interaction
bootstrap = pd.DataFrame(bootstrap, columns=['interaction'])
print(bootstrap.quantile([0.025, 0.975]).T)
输出:
0.025 0.975
interaction -273.524899 -175.373177
【讨论】:
以上是关于如何使用 Python 计算差异差异方法的置信区间?的主要内容,如果未能解决你的问题,请参考以下文章
你如何计算 Python 中 Pearson's r 的置信区间?
用survreg()和gsurvplot()绘制生存分析置信区间。
置信区间(Confidence Intervals)是什么?如何计算置信区间?置信区间的两种计算方法是什么?二值样本置信区间如何计算?如何基于bootstrap抽样进行置信区间计算?