熊猫分组聚合自定义功能，具有多个列

Question

我正在尝试在熊猫中使用带有groupby的自定义函数。我发现使用 apply 可以让我通过以下方式做到这一点：

（从两组计算新平均值的示例）

import pandas as pd
def newAvg(x):
    x['cm'] = x['count']*x['mean']
    sCount = x['count'].sum()
    sMean = x['cm'].sum()
    return sMean/sCount
data = [['A', 4, 2.5], ['A', 3, 6], ['B', 4, 9.5], ['B', 3, 13]]
df = pd.DataFrame(data, columns=['pool', 'count', 'mean'])
df_gb = df.groupby(['pool']).apply(newAvg)

是否可以将其集成到agg功能中？沿着这些思路：

df.groupby(['pool']).agg({'count': sum, ['count', 'mean']: apply(newAvg)})

Answer 1

IIUC

df.groupby(['pool']).apply(lambda x : pd.Series({'count':sum(x['count']),'newavg':newAvg(x)}))
Out[58]: 
      count  newavg
pool               
A       7.0     4.0
B       7.0    11.0

Answer 2

函数agg分别处理每列，因此可能的解决方案是先用assign创建列cm，然后聚合sum，最后除以每列：

df_gb = df.assign(cm=df['count']*df['mean']).groupby('pool')['cm','count'].sum()
print (df_gb)
        cm  count
pool             
A     28.0      7
B     77.0      7
out = df_gb.pop('cm') / df_gb.pop('count')
print (out)
pool
A     4.0
B    11.0
dtype: float64

Answer 3

将assign与eval一起使用：

df.assign(cm=df['count']*df['mean'])
  .groupby('pool', as_index=False)['cm','count'].sum()
  .eval('AggCol = cm / count')

输出：

  pool    cm  count  AggCol
0    A  28.0      7     4.0
1    B  77.0      7    11.0

Answer 4

具有agg的字典用于对每个序列执行单独的计算。对于您的问题，我建议pd.concat：

g = df.groupby('pool')
res = pd.concat([g['count'].sum(), g.apply(newAvg).rename('newAvg')], axis=1)
print(res)
#       count  newAvg
# pool               
# A         7     4.0
# B         7    11.0

这不是最有效的解决方案，因为函数newAvg正在执行最初可以对整个数据帧执行的计算，但它确实支持任意预定义计算。

Answer 5

如果您正在计算加权平均值，您可以使用agg和 NumPy np.average函数轻松完成。只需阅读系列的"平均值"列：

df_gb = df.groupby(['pool']).agg(lambda x: np.average(x['mean'], weights=x['count']))['mean']

您也可以使用 newAvg 函数执行此操作，尽管这会产生警告：

df_gb2 = df.groupby(['pool']).agg(newAvg)['mean']

如果您愿意使用newAvg函数，则可以重新定义它以避免处理副本：

def newAvg(x):
    cm = x['count']*x['mean']
    sCount = x['count'].sum()
    sMean = cm.sum()
    return sMean/sCount

通过此修改，您可以获得预期的输出：

df_gb2 = df.groupby(['pool']).agg(newAvg)['mean']
print(df_gb2)
# pool
# A     4.0
# B    11.0
# Name: mean, dtype: float64