pandas 中的新列 - 通过应用列表 groupby 将系列添加到数据框

Posted

技术标签:

【中文标题】pandas 中的新列 - 通过应用列表 groupby 将系列添加到数据框【英文标题】:New column in pandas - adding series to dataframe by applying a list groupby 【发布时间】:2017-03-18 21:18:37 【问题描述】:

给下面df

  Id other  concat
0  A     z       1
1  A     y       2
2  B     x       3
3  B     w       4
4  B     v       5
5  B     u       6

我想要new 列的结果,并将分组值作为列表

  Id other  concat           new
0  A     z       1        [1, 2]
1  A     y       2        [1, 2]
2  B     x       3  [3, 4, 5, 6]
3  B     w       4  [3, 4, 5, 6]
4  B     v       5  [3, 4, 5, 6]
5  B     u       6  [3, 4, 5, 6]

这类似于这些问题:

grouping rows in list in pandas groupby

Replicating GROUP_CONCAT for pandas.DataFrame

但是,它将您从df.groupby('Id')['concat'].apply(list)(比数据框更小的Series)获得的分组应用于原始数据框。

我已经尝试了下面的代码,但它不适用于数据框:

import pandas as pd
df = pd.DataFrame( 'Id':['A','A','B','B','B','C'], 'other':['z','y','x','w','v','u'], 'concat':[1,2,5,5,4,6])
df.groupby('Id')['concat'].apply(list)

我知道transform 可用于将分组应用于数据帧,但在这种情况下不起作用。

>>> df['new_col'] = df.groupby('Id')['concat'].transform(list)
>>> df
  Id  concat other  new_col
0  A       1     z        1
1  A       2     y        2
2  B       5     x        5
3  B       5     w        5
4  B       4     v        4
5  C       6     u        6
>>> df['new_col'] = df.groupby('Id')['concat'].apply(list)
>>> df
  Id  concat other new_col
0  A       1     z     NaN
1  A       2     y     NaN
2  B       5     x     NaN
3  B       5     w     NaN
4  B       4     v     NaN
5  C       6     u     NaN

【问题讨论】:

【参考方案1】:

groupbyjoin

df.join(df.groupby('Id').concat.apply(list).to_frame('new'), on='Id')

【讨论】:

【参考方案2】:

不太优雅(而且速度较慢..)的解决方案,但将其作为替代方案。

def func(gr):
    gr['new'] = [list(gr.concat)] * len(gr.index)
    return gr
df.groupby('Id').apply(func)

%timeit df.groupby('Id').apply(func)
100 loops, best of 3: 4.18 ms per loop

%timeit df.join(df.groupby('Id').concat.apply(list).to_frame('new'), on='Id')
1000 loops, best of 3: 1.69 ms per loop

【讨论】:

【参考方案3】:

transform[x.tolist()][x.values] 一起使用

In [1396]: df.groupby('Id')['concat'].transform(lambda x: [x.tolist()])
Out[1396]:
0          [1, 2]
1          [1, 2]
2    [3, 4, 5, 6]
3    [3, 4, 5, 6]
4    [3, 4, 5, 6]
5    [3, 4, 5, 6]
Name: concat, dtype: object

In [1397]: df['new'] = df.groupby('Id')['concat'].transform(lambda x: [x.tolist()])

In [1398]: df
Out[1398]:
  Id other  concat           new
0  A     z       1        [1, 2]
1  A     y       2        [1, 2]
2  B     x       3  [3, 4, 5, 6]
3  B     w       4  [3, 4, 5, 6]
4  B     v       5  [3, 4, 5, 6]
5  B     u       6  [3, 4, 5, 6]

【讨论】:

以上是关于pandas 中的新列 - 通过应用列表 groupby 将系列添加到数据框的主要内容,如果未能解决你的问题,请参考以下文章

Pandas df 操作:如果其他列行重复,则带有值列表的新列 [重复]

将 uuid 添加到 pandas DataFrame 中的新列

将 GroupBy 平均结果添加为 pandas 中的新列

读取多个 csv 文件并将文件名添加为 pandas 中的新列

将 groupby 平均统计数据映射为 pandas 中的新列

将来自一个数据框的值合并到 Pandas 中的新列中[重复]