GroupBy和集合交集

Posted 2021-05-04

我有一个带有set列的pandas DataFrame：

import pandas as pd

df = pd.DataFrame({'group_var': [1,1,2,2], 'sets_var': [set([0, 1]), set([1, 2]), set([3, 4]), set([5, 6, 7])]})
df

   group_var sets_var
0          1      {0, 1}
1          1      {1, 2}
2          2      {3, 4}
3          2   {5, 6, 7}

我希望groupby group_var并获得所有相应的sets_var集合的交集，如下所示：

   group_var sets_var
0          1      {1}
1          2      {}

或像这样的系列：

   sets_var
1  {1}
2  {}

我怎么会优雅地去做呢？绩效是头等大事。

答案

使用groupby，agg，并使用set.intersection减少。

df.groupby('group_var', as_index=False).agg(lambda x: set.intersection(*x))

   group_var sets_var
0          1      {1}
1          2       {}

如果性能绝对重要，我们可以尝试摆脱lambda：

from functools import partial, reduce 
import operator

p = partial(reduce, operator.and_)
df.groupby('group_var', as_index=False).agg(p)

   group_var sets_var
0          1      {1}
1          2       {}

但是，这仅执行成对交叉，因此您的里程可能会有所不同。

---

或者，作为一个系列，

pd.Series({
    k: set.intersection(*g.tolist()) 
    for k, g in df.groupby('group_var')['sets_var']})

1    {1}
2     {}
dtype: object