我有一个数据集,将一些丢失的数据看起来像这样:
id category value
1 A NaN
2 B NaN
3 A 10.5
4 C NaN
5 A 2.0
6 B 1.0
我需要填写空以在模型中使用数据。每次一个类别第一次出现时,它都是NULL。我想要做的是,对于类别A
和B
有多于一个值的情况,用该类别的平均值替换空值。对于只出现一次的C
类别,只需填写其余数据的平均值。
我知道我可以简单地为C
这样的情况得到所有行的平均值,但我一直试图为A和B做分类方法,并替换null。
df['value'] = df['value'].fillna(df['value'].mean())
我需要最后的df像这样
id category value
1 A 6.25
2 B 1.0
3 A 10.5
4 C 4.15
5 A 2.0
6 B 1.0
我认为您可以使用groupby
和apply
fillna
与mean
。然后得到NaN
,如果某些类别只有NaN
的值,所以使用mean
列的所有值来填充NaN
:
df.value = df.groupby('category')['value'].apply(lambda x: x.fillna(x.mean()))
df.value = df.value.fillna(df.value.mean())
print (df)
id category value
0 1 A 6.25
1 2 B 1.00
2 3 A 10.50
3 4 C 4.15
4 5 A 2.00
5 6 B 1.00
您也可以使用GroupBy
+ transform
来用分组方式填充NaN
值。这种方法避免了低效的apply
+ lambda
。例如:
df['value'] = df['value'].fillna(df.groupby('category')['value'].transform('mean'))
df['value'] = df['value'].fillna(df['value'].mean())