大熊猫没有正确地用NaN重新索引



在删除NaN值后,我在重新索引pandas数据帧时遇到问题。

我试图将df列中的dict提取到另一个df,然后将这些值连接回相应行中的原始df。

df = pd.DataFrame({'col1': [1, 2, 3, 4, 5], 
'col2': [np.NaN, np.NaN, {'aa': 11, 'bb': 22}, {'aa': 33, 'bb': 44}, {'aa': 55, 'bb': 66}]})
df
col1 col2
0   1    NaN
1   2    NaN
2   3    {'aa': 11, 'bb': 22}
3   4    {'aa': 33, 'bb': 44}
4   5    {'aa': 55, 'bb': 66}

期望的最终结果是:

col1    aa      bb
0   1       NaN     NaN
1   2       NaN     NaN
2   3       11      22
3   4       33      44
4   5       55      66

如果我将col2传递给pandas.tolist((函数,dict就不会被解压缩。

pd.DataFrame(df['col2'].tolist())
0   NaN
1   NaN
2   {'aa': 11, 'bb': 22}
3   {'aa': 33, 'bb': 44}
4   {'aa': 55, 'bb': 66}

如果我使用dropna((,dict被解压缩,但索引被重置

pd.DataFrame(df['col2'].dropna().tolist())
aa  bb
0   11  22
1   33  44
2   55  66

如果我试图将索引重置为原始df的索引,那么行数据将出现在不同的索引位置。

pd.DataFrame(df['col2'].dropna().tolist()).reindex(df.index)
aa  bb
0   11.0    22.0
1   33.0    44.0
2   55.0    66.0
3   NaN     NaN
4   NaN     NaN

数据是可变的,并且无法知道在列中的任何点上将有多少NaN值。

非常感谢您的帮助。

使用Series.to_dict来考虑索引:

df.join(pd.DataFrame(df['col2'].to_dict()).T).drop(columns='col2')
col1    aa    bb
0     1   NaN   NaN
1     2   NaN   NaN
2     3  11.0  22.0
3     4  33.0  44.0
4     5  55.0  66.0

IIUC通过在dropna之后传递index来修复代码

s=df.col2.dropna()
df=df.join(pd.DataFrame(s.tolist(), index=s.index))
df
Out[103]: 
col1                  col2    aa    bb
0     1                   NaN   NaN   NaN
1     2                   NaN   NaN   NaN
2     3  {'aa': 11, 'bb': 22}  11.0  22.0
3     4  {'aa': 33, 'bb': 44}  33.0  44.0
4     5  {'aa': 55, 'bb': 66}  55.0  66.0

尝试:pd.concat([df['col1'], df['col2'].apply(pd.Series)], axis=1)

col1    aa    bb
0     1   NaN   NaN
1     2   NaN   NaN
2     3  11.0  22.0
3     4  33.0  44.0
4     5  55.0  66.0

最新更新