我正在清理值为日期的数据,
有时,我会找到开始日期优于结束日期的给定事件的值。
查看值后,我注意到这是由于数据收集期间错误的日期时间格式造成的。
在某些行中,它是yy-mm-dd,而另一些行则是yy-dd-mm。
正确的格式应该是 yy-mm-dd。
这是数据
start_date end_date
0 2018-05-29 2018-04-06
7 2018-08-01 2018-03-30
5 2018-08-13 2018-06-09
3 2018-12-02 2018-02-15
11 2018-08-24 2018-05-09
12 2018-04-20 2018-02-05
1 2018-07-30 2018-03-08
8 2018-08-16 2018-03-09
10 2018-09-07 2018-07-20
基本上我想要的是检查每一行,如果start_date优于end_date,请更改end_date或开始日期的格式,直到end_date优于开始日期。
例如:对于第一行: 我需要将结束日期更改为 2018-06-04, 但对于第二行,它的开始日期需要更改为 2018-01-08
有什么想法吗?
好的,我不确定这是否有帮助,但让我们看看...
我想首先声明,IMO试图修复读入时损坏的数据可能是危险的 - 也许您对它如何损坏的假设并不完全正确。
然而:
跟
df.apply(lambda d: d.dt.day > 12)
Out:
start_date end_date
0 True False
7 False True
5 True False
3 False True
11 True False
12 True False
1 True False
8 True False
10 False True
我们可以看到,在所有行(我有权访问(中,开始或结束都有一天>12,这显然不适合作为一个月。 即,我们可以使用
mask = df.start_date.dt.day > 12
作为索引器,用于将起始侧可能的部分与结束侧的部分分开更改,即日值不大于 12 的部分:
df[~mask].start_date.apply(lambda d: pd.datetime(d.year, d.day, d.month))
Out:
7 2018-01-08
3 2018-02-12
10 2018-07-09
Name: start_date, dtype: datetime64[ns]
和
df[mask].end_date.apply(lambda d: pd.datetime(d.year, d.day, d.month))
Out:
0 2018-06-04
5 2018-09-06
11 2018-09-05
12 2018-05-02
1 2018-08-03
8 2018-09-03
Name: end_date, dtype: datetime64[ns]
因此,如果应用:
df.start_date[~mask] = df[~mask].start_date.apply(lambda d: pd.datetime(d.year, d.day, d.month))
df.end_date[mask] = df[mask].end_date.apply(lambda d: pd.datetime(d.year, d.day, d.month))
这导致
df
Out:
start_date end_date
0 2018-05-29 2018-06-04
7 2018-01-08 2018-03-30
5 2018-08-13 2018-09-06
3 2018-02-12 2018-02-15
11 2018-08-24 2018-09-05
12 2018-04-20 2018-05-02
1 2018-07-30 2018-08-03
8 2018-08-16 2018-09-03
10 2018-07-09 2018-07-20
不再晚于结束开始:
df.start_date > df.end_date
Out:
0 False
7 False
5 False
3 False
11 False
12 False
1 False
8 False
10 False
dtype: bool