累积总和数据帧的条件计数 - 遍历列

Posted

技术标签:

【中文标题】累积总和数据帧的条件计数 - 遍历列【英文标题】:Conditional count of cumulative sum Dataframe - Loop through columns 【发布时间】:2019-05-05 23:17:15 【问题描述】:

我正在尝试根据每个值的符号在数据帧内通过重置来计算累积和。这个想法是对每一列分别进行相同的练习。

例如,假设我有以下数据框:

df = pd.DataFrame('A': [1,1,1,-1,-1,1,1,1,1,-1,-1,-1],'B':[1,1,-1,-1,-1,1,1,1,-1,-1,-1,1],index=[0, 1, 2, 3,4,5,6,7,8,9,10,11])

对于每一列,我想计算累积和,直到发现符号发生变化;在这种情况下,总和应重置为 1。对于上面的示例,我期待以下结果:

df1=pd.DataFrame('A_cumcount':[1,2,3,1,2,1,2,3,4,1,2,3],'B_cumcount':[1,2,1,2,3,1,2,3,1,2,3,4],index=[0,1,2,3,4,5,6,7,8,9,10,11])

此处已讨论过类似问题:Pandas: conditional rolling count

我已经尝试了以下代码:

nb_col=len(df.columns) #number of columns in dataframe


for i in range(0,int(nb_col)): #Loop through the number of columns in the dataframe

    name=df.columns[i] #read the column name
    name=name+'_cumcount' 


    #add column for the calculation
    df=df.reindex(columns=np.append(df.columns.values, [name])) 

    df=df[df.columns[nb_col+i]]=df.groupby((df[df.columns[i]] != df[df.columns[i]].shift(1)).cumsum()).cumcount()+1

我的问题是,有没有办法避免这种 for 循环?所以我可以避免每次都追加一个新列,使计算速度更快。谢谢

收到的答案(一切正常): 来自@nixon df.apply(lambda x: x.groupby(x.diff().ne(0).cumsum()).cumcount()+1).add_suffix('_cumcount')

来自@jezrael df1 = (df.apply(lambda x: x.groupby((x != x.shift()).cumsum()).cumcount() + 1).add_suffix('_cumcount'))

来自@Scott Boston:

df.apply(lambda x: x.groupby(x.diff().bfill().ne(0).cumsum()).cumcount() + 1)

【问题讨论】:

【参考方案1】:

我认为熊猫需要循环,例如apply:

df1 = (df.apply(lambda x: x.groupby((x != x.shift()).cumsum()).cumcount() + 1)
         .add_suffix('_cumcount'))
print (df1)
    A_cumcount  B_cumcount
0            1           1
1            2           2
2            3           1
3            1           2
4            2           3
5            1           1
6            2           2
7            3           3
8            4           1
9            1           2
10           2           3
11           3           1

【讨论】:

@CTXR - 顺便说一句,不使用每列循环的原因是什么?大数据? 没错,数据框很大! @CTXR 您可以查看this 以获得其他更快的解决方案。 @CTXR - 如果我的回答有帮助,请不要忘记accept。谢谢。【参考方案2】:

你可以试试这个:

df.apply(lambda x: x.groupby(x.diff().bfill().ne(0).cumsum()).cumcount() + 1)

输出:

    A  B
0   1  1
1   2  2
2   3  1
3   1  2
4   2  3
5   1  1
6   2  2
7   3  3
8   4  1
9   1  2
10  2  3
11  3  1

【讨论】:

【参考方案3】:

您可以通过执行x.diff().ne(0).cumsum() 并在组上使用cumcount 来按顺序发生更改的位置开始分组:

df.apply(lambda x: x.groupby(x.diff().ne(0).cumsum())
                    .cumcount()+1).add_suffix('_cumcount')

        A_cumcount  B_cumcount
0            1           1
1            2           2
2            3           1
3            1           2
4            2           3
5            1           1
6            2           2
7            3           3
8            4           1
9            1           2
10           2           3
11           3           1

【讨论】:

以上是关于累积总和数据帧的条件计数 - 遍历列的主要内容,如果未能解决你的问题,请参考以下文章

Pyspark - 获取具有条件的列的累积总和

Oracle SQL - 基于分组和条件运行求和

在 R 中,如何真正快速地遍历数据帧的行?

从同一个累积事实表中分离和独立的计数

根据来自其他数据帧的位置条件在数据帧上编写选择查询,scala

根据条件重置的 7 天累积总和