将数据帧重新采样为具有任意期末月份的 n 个月期间

Posted

技术标签:

【中文标题】将数据帧重新采样为具有任意期末月份的 n 个月期间【英文标题】:Resample a data frame into n-month periods with arbitrary end-of-period months 【发布时间】:2021-09-30 23:09:51 【问题描述】:

我想将resample() 我的每日数据分成六个月的数据块。但是,我希望六个月大块的结束是四月和十月的结束。如果我使用df.resample('6M').sum()(或df.groupby(pd.Grouper(freq='6M').sum()),则前六个月块的结束是数据中第一个月的结束。我知道anchored offsets,但我不知道如何创建自定义锚定偏移(例如,'6M-APR' 不起作用)。

下面是一些示例代码:

import pandas as pd
import numpy as np
np.random.seed(42)
df = pd.DataFrame(
    data='logret': np.random.randn(1000),
    index=pd.date_range(start='2001-05-25', periods=1000, freq='B')
)
df.resample('6M').sum()

产生以下输出:

    logret
2001-05-31  2.2950148716254297
2001-11-30  -12.536360930670858
2002-05-31  5.468848462868161
2002-11-30  13.027927629740189
2003-05-31  -10.37282118563155
2003-11-30  -0.156275418330286
2004-05-31  -3.0768727498370905
2004-11-30  28.328856464071546
2005-05-31  -3.6462613215100546

.resample()startoffsetloffset 参数尚未实现我的目标(为期 6 个月的重采样,截至 4 月和 10 月)。

我已经通过下面的 hack 实现了我的目标。但是,它丢失了日期索引,我想要一种更健壮/可重复的方法。

def sixmonth(d, b=4):
    y, m, h = d.year, d.month, 1
    if (m > (b + 6)): y += 1
    elif (m > b): h += 1

    return y + h/10

df.groupby(sixmonth).sum()

产生以下不带日期的输出:

    logret
2001.2  -10.300839024148
2002.1  9.321994034984547
2002.2  8.855517878860585
2003.1  -2.4576797445001493
2003.2  -7.002919570231796
2004.1  -9.36895555474087
2004.2  27.13038641177464
2005.1  3.154551390326532

当然,我可以改进这个技巧。但是对于在任意月份结束的 n 周期重采样,是否有更好/稳健/可重复的解决方案?

【问题讨论】:

【参考方案1】:

另一种解决方法,保留日期时间索引:

def custom_6M(df, month=4):
    df = df.resample("M").sum()
    df = df.rolling(6).sum()
    return df[df.index.month.isin([month,month+6])]

>>> custom_6M(df)
               logret
2001-10-31 -10.300839
2002-04-30   9.321994
2002-10-31   8.855518
2003-04-30  -2.457680
2003-10-31  -7.002920
2004-04-30  -9.368956
2004-10-31  27.130386

【讨论】:

【参考方案2】:

这很痛苦。当我需要类似的东西时,我最终采用了以下方法:

anchor_month = 4
non_months = (anchor_month + 3) % 12, (anchor_month + 9) % 12
df = df.resample('Q-APR').sum()
df = (df.reset_index()
        .groupby(df.index.month.isin(non_months).cumsum())
        .agg('index': 'last', 'logret': 'sum')
        .set_index('index'))

这里的结果:

               logret
index                
2001-10-31 -10.300839
2002-04-30   9.321994
2002-10-31   8.855518
2003-04-30  -2.457680
2003-10-31  -7.002920
2004-04-30  -9.368956
2004-10-31  27.130386
2005-04-30   3.154551

但问题是,有时最后一个索引不适合(这里可以)。这可以通过另一个'6M'-resample 来解决。总体:不漂亮。

【讨论】:

【参考方案3】:

感谢您的回答。 我还有两个选择。

时间戳系列附加到 df 以锚定六个月的重采样周期

我希望.resample()origin 参数可以让我手动定位六个月的重采样周期。没有,但是下面的代码可以。

df.append(pd.Series(name=pd.to_datetime('2001-04-30'), dtype='float')).resample('6M').sum()

改进我的 sixmonth() 函数以使用时间戳

def sixmonth(d, m=6, n=4):
    o = (m - (d.month - n)) % m
    return d + pd.offsets.MonthEnd(o)

我首先.resample('M') 以确保我有月末日期。 我可以修改sixmonth() 来检查月末日期,但我更害怕找到一些新的边缘案例而不是效率低下。

df.resample('M').sum().groupby(sixmonth).sum()

【讨论】:

以上是关于将数据帧重新采样为具有任意期末月份的 n 个月期间的主要内容,如果未能解决你的问题,请参考以下文章

每小时重新采样数据帧

将分布重新采样为具有最大可能数据记录的新分布

合并两个 Pandas 数据帧,在一个时间列上重新采样,插值

Pandas 将时间序列数据重新采样为 15 分钟和 45 分钟 - 使用多索引或列

R(和 dplyr?) - 按组从数据帧中采样,最大样本大小为 n

在 SQL Server 中查找给定 12 个月内 6 个月的最高连续期间