将数据帧重新采样为具有任意期末月份的 n 个月期间
Posted
技术标签:
【中文标题】将数据帧重新采样为具有任意期末月份的 n 个月期间【英文标题】:Resample a data frame into n-month periods with arbitrary end-of-period months 【发布时间】:2021-09-30 23:09:51 【问题描述】:我想将resample()
我的每日数据分成六个月的数据块。但是,我希望六个月大块的结束是四月和十月的结束。如果我使用df.resample('6M').sum()
(或df.groupby(pd.Grouper(freq='6M').sum()
),则前六个月块的结束是数据中第一个月的结束。我知道anchored offsets,但我不知道如何创建自定义锚定偏移(例如,'6M-APR'
不起作用)。
下面是一些示例代码:
import pandas as pd
import numpy as np
np.random.seed(42)
df = pd.DataFrame(
data='logret': np.random.randn(1000),
index=pd.date_range(start='2001-05-25', periods=1000, freq='B')
)
df.resample('6M').sum()
产生以下输出:
logret
2001-05-31 2.2950148716254297
2001-11-30 -12.536360930670858
2002-05-31 5.468848462868161
2002-11-30 13.027927629740189
2003-05-31 -10.37282118563155
2003-11-30 -0.156275418330286
2004-05-31 -3.0768727498370905
2004-11-30 28.328856464071546
2005-05-31 -3.6462613215100546
.resample()
的 start
、offset
和 loffset
参数尚未实现我的目标(为期 6 个月的重采样,截至 4 月和 10 月)。
我已经通过下面的 hack 实现了我的目标。但是,它丢失了日期索引,我想要一种更健壮/可重复的方法。
def sixmonth(d, b=4):
y, m, h = d.year, d.month, 1
if (m > (b + 6)): y += 1
elif (m > b): h += 1
return y + h/10
df.groupby(sixmonth).sum()
产生以下不带日期的输出:
logret
2001.2 -10.300839024148
2002.1 9.321994034984547
2002.2 8.855517878860585
2003.1 -2.4576797445001493
2003.2 -7.002919570231796
2004.1 -9.36895555474087
2004.2 27.13038641177464
2005.1 3.154551390326532
当然,我可以改进这个技巧。但是对于在任意月份结束的 n 周期重采样,是否有更好/稳健/可重复的解决方案?
【问题讨论】:
【参考方案1】:另一种解决方法,保留日期时间索引:
def custom_6M(df, month=4):
df = df.resample("M").sum()
df = df.rolling(6).sum()
return df[df.index.month.isin([month,month+6])]
>>> custom_6M(df)
logret
2001-10-31 -10.300839
2002-04-30 9.321994
2002-10-31 8.855518
2003-04-30 -2.457680
2003-10-31 -7.002920
2004-04-30 -9.368956
2004-10-31 27.130386
【讨论】:
【参考方案2】:这很痛苦。当我需要类似的东西时,我最终采用了以下方法:
anchor_month = 4
non_months = (anchor_month + 3) % 12, (anchor_month + 9) % 12
df = df.resample('Q-APR').sum()
df = (df.reset_index()
.groupby(df.index.month.isin(non_months).cumsum())
.agg('index': 'last', 'logret': 'sum')
.set_index('index'))
这里的结果:
logret
index
2001-10-31 -10.300839
2002-04-30 9.321994
2002-10-31 8.855518
2003-04-30 -2.457680
2003-10-31 -7.002920
2004-04-30 -9.368956
2004-10-31 27.130386
2005-04-30 3.154551
但问题是,有时最后一个索引不适合(这里可以)。这可以通过另一个'6M'
-resample 来解决。总体:不漂亮。
【讨论】:
【参考方案3】:感谢您的回答。 我还有两个选择。
将时间戳系列附加到 df
以锚定六个月的重采样周期
我希望.resample()
的origin
参数可以让我手动定位六个月的重采样周期。没有,但是下面的代码可以。
df.append(pd.Series(name=pd.to_datetime('2001-04-30'), dtype='float')).resample('6M').sum()
改进我的 sixmonth()
函数以使用时间戳
def sixmonth(d, m=6, n=4):
o = (m - (d.month - n)) % m
return d + pd.offsets.MonthEnd(o)
我首先.resample('M')
以确保我有月末日期。
我可以修改sixmonth()
来检查月末日期,但我更害怕找到一些新的边缘案例而不是效率低下。
df.resample('M').sum().groupby(sixmonth).sum()
【讨论】:
以上是关于将数据帧重新采样为具有任意期末月份的 n 个月期间的主要内容,如果未能解决你的问题,请参考以下文章
合并两个 Pandas 数据帧,在一个时间列上重新采样,插值
Pandas 将时间序列数据重新采样为 15 分钟和 45 分钟 - 使用多索引或列