PD.NamedAgg 将覆盖前面的列值



这是我使用的数据帧。

token name   ltp    change
0   12345.0  abc   2.0       NaN
1   12345.0  abc   5.0  1.500000
2   12345.0  abc   3.0 -0.400000
3   12345.0  abc   9.0  2.000000
4   12345.0  abc   5.0 -0.444444
5   12345.0  abc  16.0  2.200000
6    6789.0  xyz   1.0       NaN
7    6789.0  xyz   5.0  4.000000
8    6789.0  xyz   3.0 -0.400000
9    6789.0  xyz  13.0  3.333333
10   6789.0  xyz   9.0 -0.307692
11   6789.0  xyz  20.0  1.222222

在试图解决这个问题时,我遇到了这种奇怪的pd.NamedAgg行为

#Worked as intended
df.groupby('name').agg(pos=pd.NamedAgg(column='change',aggfunc=lambda x: x.gt(0).sum()),
neg = pd.NamedAgg(column='change',aggfunc=lambda x:x.lt(0).sum()))
# Output
pos  neg
name
abc   3.0  2.0
xyz   3.0  2.0

在特定列上执行此操作时

df.groupby('name')['change'].agg(pos = pd.NamedAgg(column='change',aggfunc=lambda x:x.gt(0).sum()),
neg = pd.NamedAgg(column='change',aggfunc=lambda x:x.lt(0).sum()))
#Output
pos  neg
name
abc   2.0  2.0
xyz   2.0  2.0

pos列值将被neg列值覆盖。

下面是另一个示例:

df.groupby('name')['change'].agg(pos = pd.NamedAgg(column='change',aggfunc=lambda x:x.gt(0).sum()),
neg = pd.NamedAgg(column='change',aggfunc=lambda x:x.sum()))
#Output
pos       neg
name
abc   4.855556  4.855556
xyz   7.847863  7.847863

更奇怪的结果:

df.groupby('name')['change'].agg(pos = pd.NamedAgg(column='change',aggfunc=lambda x:x.gt(0).sum()),
neg = pd.NamedAgg(column='change',aggfunc=lambda x:x.sum()),
max = pd.NamedAgg(column='ltp',aggfunc='max'))
# I'm applying on Series `'change'` but I mentioned `column='ltp'` which should
# raise an `KeyError: "Column 'ltp' does not exist!"` but it produces results as follows
pos       neg  max
name
abc   4.855556  4.855556  2.2
xyz   7.847863  7.847863  4.0

问题是当它与pd.Series一起使用时

s = pd.Series([1,1,2,2,3,3,4,5])
s.groupby(s.values).agg(one = pd.NamedAgg(column='new',aggfunc='sum'))
one
1    2
2    4
3    6
4    4
5    5

它不应该引起KeyError吗?

一些更奇怪的结果,当我们使用不同的列名时,列one值不会被覆盖。

s.groupby(s.values).agg(one=pd.NamedAgg(column='anything',aggfunc='sum'),
second=pd.NamedAgg(column='something',aggfunc='max'))
one  second       
1    2       1     
2    4       2
3    6       3
4    4       4
5    5       5

当我们在pd.NamedAgg中使用相同的列名时,值会被覆盖

s.groupby(s.values).agg(one=pd.NamedAgg(column='weird',aggfunc='sum'),
second=pd.NamedAgg(column='weird',aggfunc='max'))
one  second  # Values of column `one` are over-written
1  1       1
2  2       2
3  3       3
4  4       4
5  5       5

我的熊猫版本

pd.__version__
# '1.0.3'

来自熊猫文档:

命名聚合也对系列分组聚合有效。在这种情况下,没有列选择,因此值只是函数。

In [82]: animals.groupby("kind").height.agg(
....:     min_height='min',
....:     max_height='max',
....: )
....: 
Out[82]: 
min_height  max_height
kind                        
cat          9.1         9.5
dog          6.0        34.0

但是找不到为什么与column一起使用会产生奇怪的结果。

更新:

错误报告由 @jezrael 在 github 问题#34380中提交,也在这里。

编辑:这是pandas-dev确认的错误,这已在PR BUG中解决:如果聚合具有相同的名称,则聚合将被覆盖#30858

如果在分组依据后有指定的列,请使用段落中指定的解决方案:

命名聚合也对系列分组聚合有效。在这种情况下,没有列选择,因此值只是函数。

df = df.groupby('name')['change'].agg(pos = lambda x:x.gt(0).sum(),
neg = lambda x:x.lt(0).sum())
print (df)
pos  neg
name          
abc   3.0  2.0
xyz   3.0  2.0

为什么将其与列一起使用会产生奇怪的结果。

我认为这是错误,而不是错误的输出应该引发错误。

最新更新