我有两个大的数据帧,但为了方便起见,只显示了其中的一小部分。一种是以下形式(表1(:
| Country | Date | flag | M | notes | V |
|--------------------------------------------------|
| UK | 20210319 | 1 | 3.0 | No Change | C1 |
| UK | 20210320 | 0 | 2.0 | Extension | C2 |
| USA | 20210405 | 0 | 4.0 | New Policy| C1 |
| CAN | 20210405 | 0 | 1.0 | Update | C3 |
另一种是形式(表2(:
| Country | Date | C1 | C1_flag | C1_notes |
|-----------------------------------------------|
| UK | 20210319 | NaN | NaN | NaN |
| USA | 20210405 | NaN | NaN | NaN |
| AUS | 20210505 | NaN | NaN | NaN |
| NZ | 20210506 | NaN | NaN | NaN |
其中,在"C1_notes"列之后还有其他列(C2、C2_flag和C2_notes(。事实上,该列结构存在于第一个表的"V"列中的以下代码(C1、C2、C3、C4、C5、E1、E2、H1、H2、H3(中,但为了简洁起见,我仅在表2中显示C1。
我希望使用表1中的信息填充表2,这样它最终的形式是:
| Country | Date | C1 | C1_flag | C1_notes |
|------------------------------------------------|
| UK | 20210319 | 3.0 | 1 | No Change |
| USA | 20210405 | 4.0 | 0 | New Policy|
| AUS | 20210505 | NaN | NaN | NaN |
| NZ | 20210506 | NaN | NaN | NaN |
其中,表2中的"C1"列使用表1中的"M"列作为其值,类似地,"C1_flag"列使用"flag"列。表2的填充是基于表2中的"国家"one_answers"日期"列与表1中的对应列相匹配。
我希望"merge"类型的操作可以处理这个问题,但问题是,值(C1…H3(是表1中的列值,但表2中的列名称。我还认为这是Pandas中的Pivot/Stack/Melt类型的操作,但事实并非如此,可能需要更通用的映射。我将如何执行这种对应关系(既适用于C1,也适用于其他C、E和H代码(?谢谢
Restructure
是第一个数据帧/manipulate columns
,然后update
是具有此重构数据帧的另一个数据帧。
k = df1.pivot(index=['Country','Date'] , columns= ['V'] , values= ['flag','M','notes'])
k.columns = ['_'.join(col[::-1]) if 'M' not in col else col[-1] for col in k.columns]
k = k[sorted(k.columns)]
df2 = df2.set_index(['Country', 'Date'])
df2.update(k)
输出:
C1 C1_flag C1_notes
Country Date
UK 20210319 3.0 1 NoChange
USA 20210405 4.0 0 NewPolicy
AUS 20210505 NaN NaN NaN
NZ 20210506 NaN NaN NaN
完整代码:
from numpy import nan
d1 = {'Country': {0: 'UK', 1: 'UK', 2: 'USA', 3: 'CAN'}, 'Date': {0: 20210319, 1: 20210320, 2: 20210405, 3: 20210405}, 'flag': {0: 1, 1: 0, 2: 0, 3: 0},
'M': {0: 3.0, 1: 2.0, 2: 4.0, 3: 1.0}, 'notes': {0: 'NoChange', 1: 'Extension', 2: 'NewPolicy', 3: 'Update'}, 'V': {0: 'C1', 1: 'C2', 2: 'C1', 3: 'C3'}}
d2 = {'Country': {0: 'UK', 1: 'USA', 2: 'AUS', 3: 'NZ'}, 'Date': {0: 20210319, 1: 20210405, 2: 20210505, 3: 20210506}, 'C1': {
0: nan, 1: nan, 2: nan, 3: nan}, 'C1_flag': {0: nan, 1: nan, 2: nan, 3: nan}, 'C1_notes': {0: nan, 1: nan, 2: nan, 3: nan}}
df1 = pd.DataFrame(d1)
df2 = pd.DataFrame(d2)
k = df1.pivot(index=['Country', 'Date'], columns=[
'V'], values=['flag', 'M', 'notes'])
k.columns = ['_'.join(col[::-1]) if 'M' not in col else col[-1]
for col in k.columns]
k = k[sorted(k.columns)]
df2 = df2.set_index(['Country', 'Date'])
df2.update(k)