大家好,我有一个问题,熊猫是不理解我的合并条件。它与其他"键"一起工作,但一旦我将"日期"列作为键就会中断。"Date"列是两个数据框架中的字符串对象(不是时间戳)。
换句话说,我希望所有4个"键"在"左合并"从df2到df的列之前是相同的,而不丢失df中的任何数据。此外,当我在Excel中打开csv文件时,日期格式看起来完全相同(例如:5/10/2015)。
但是,Pandas将"csv_file1", [df]中的日期列读取为"5-6-2015":
In [1]: df['Date']
Out[1]:
Date
0 2015-5-11
1 2015-5-11
2 2015-5-10
3 2015-5-12
Pandas读取"csv_file2", [df2]中的日期列为"5/6/2015":
In [2]: df2['Date']
Out[2]:
Date
0 5/11/2015
1 5/11/2015
2 5/12/2015
3 5/13/2015
4 5/17/2015
两者的dtypes都是"obj";我不明白为什么Pandas会以不同的方式读取"Date"列的格式。
左合并前的数据帧是这样的:
In [3]: df
Out[3]:
Date Hour Make Model Gas Rating Safety Rating
0 2015-5-11 1 Honda Accord 9 8
1 2015-5-11 0 Toyota Camry 9 10
2 2015-5-10 23 Chevy Sonic 7 6
3 2015-5-12 13 Honda Civic 8 7
In [4]: df2
Out[4]:
Date Hour Make Model Mileage Rating Speed Rating
0 5/11/2015 1 Honda Accord 10 7
1 5/11/2015 0 Toyota Camry 10 7
2 5/12/2015 23 Honda Civic 9 6
3 5/13/2015 23 Honda Civic 9 6
4 5/17/2015 7 Chevy Impala
这是当我尝试左合并时发生的情况:
In [5]: final = pd.merge(left=df, right=df2, how='left', on=['Date', 'Hour', 'Make', 'Model'])
In [6]: final
Out[6]:
Date Hour Make Model Gas Rating Safety Rating Mileage Rating
0 2015-5-11 1 Honda Accord 9 8 NaN
1 2015-5-11 0 Toyota Camry 9 10 NaN
2 2015-5-10 23 Chevy Sonic 7 6 NaN
3 2015-5-12 13 Honda Civic 8 7 NaN
Speed Rating
0 NaN
1 NaN
2 NaN
3 NaN
如果我在没有'日期'键的情况下尝试合并,数据在大多数情况下正确传输,但这是由于两者重复而导致的数据过剩,并且不准确,因为我只需要所有四个键('日期','小时','Make', 'Model')匹配的数据和df之前离开合并数据的任何内容。
总会有更多的Make/Model &所以我只想把合并匹配留给df,不管df里有多少重复的实例。我也不希望在df中丢失任何数据,所以在df2中找不到的df中的任何日期都应该保留。
如果'Date'合并条件工作,这是我试图实现的输出:
In [7]: final
Out[7]:
Date Hour Make Model Gas Rating Safety Rating Mileage Rating
0 5/11/2015 1 Honda Accord 9 8 10
1 5/11/2015 0 Toyota Camry 9 10 10
2 5/10/2015 23 Chevy Sonic 7 6 NaN
3 5/12/2015 13 Honda Civic 8 7 8
Speed Rating
0 7
1 7
2 NaN
3 7
有人知道为什么会发生这种情况吗?我甚至尝试将"日期"列拼接成3列("月","日","年")并将dtype更改为int64, bool, obj,也没有成功。所以我认为这与格式有关。
提前感谢Stack Overflow社区!
在合并之前运行以下代码应该将日期转换为通用格式,以便合并正常工作。
import time
df['Date']=time.strftime('%Y-%m-%d',time.strptime(df['date'],'%m/%d/%Y'))
df2['Date']=time.strftime('%Y-%m-%d',time.strptime(df2['date'],'%Y-%m-%d'))
简单地更改其中一个日期会很好,但是python时间库在月份和日期前添加了一个前导0,并使用%m
和%d
标记。%-m
和%-d
标签不会添加前导0,但它们不适用于所有系统。