我有一些时间序列数据,其中包含白天和夜间时间值。时间条目以日期时间格式解析,我有一个能够确定与夜间周期对应的值的例程。
出于我的目的,我想计算滚动平均值,但仅使用夜间值。
有没有简单的方法可以做到这一点?
任何帮助将不胜感激!
更新:数据帧的切片如下所示:
0 Time Value
1 2016-02-16 08:40:14.133000 12
2 2016-02-16 11:25:14.133000 4
3 2016-02-16 23:45:14.133000 8
4 2016-03-16 08:40:14.002700 17
5 2016-03-16 23:45:14.133000 2
6 2016-03-16 23:50:14.133000 6
7 2016-03-16 23:55:14.133000 9
8 2016-04-16 08:40:14.133000 10
9 2016-04-16 11:20:14.133000 2
10 2016-04-16 12:40:14.133000 7
11 2016-04-16 23:45:14.133000 5
12 2016-05-16 08:40:14.002700 11
13 2016-05-16 23:40:14.133000 3
14 2016-05-16 23:50:14.133000 4
15 2016-06-16 08:40:14.002700 11
16 2016-06-16 10:30:14.002700 27
17 2016-06-16 23:25:14.133000 3
18 2016-06-16 23:30:14.133000 5
19 2016-07-16 08:40:14.002700 7
20 2016-07-16 11:15:14.002700 9
21 2016-07-16 23:45:14.133000 18
我对仅计算夜间值的每周滚动平均值感兴趣。在我的示例中,夜间时间在晚上 11 点到凌晨 5 点之间。
您可以使用列编码,它正在使用熊猫日期时间系列date
的夜晚。然后将此列用于分组依据来计算每周的滚动平均值:
df.Time = pd.to_datetime(df.Time)
df['night'] = (df.Time.dt.hour>22) | (df.Time.dt.hour < 6)
df['date'] = df.Time.dt.date
idx = (df.night) & (df.Time.dt.hour>22)
df.loc[idx,'date'] = df.loc[idx,'date'].values + pd.DateOffset(1)
df.date = pd.to_datetime(df.date)
df['rolling_mean'] = np.nan
df.loc[df.night,'rolling_mean'] = df.loc[df.night,'date'].apply(lambda x : df.loc[df.night & df.date.between(x-pd.DateOffset(3),x+pd.DateOffset(3)),'Value'].mean())
df.drop(['night','date'],1,inplace = True)
Time Value rolling_mean
1 2016-02-16 08:40:14.133000 12 NaN
2 2016-02-16 11:25:14.133000 4 NaN
3 2016-02-16 23:45:14.133000 8 8.000000
4 2016-03-16 08:40:14.002700 17 NaN
5 2016-03-16 23:45:14.133000 2 5.666667
6 2016-03-16 23:50:14.133000 6 5.666667
7 2016-03-16 23:55:14.133000 9 5.666667
8 2016-04-16 08:40:14.133000 10 NaN
9 2016-04-16 11:20:14.133000 2 NaN
10 2016-04-16 12:40:14.133000 7 NaN
11 2016-04-16 23:45:14.133000 5 5.000000
12 2016-05-16 08:40:14.002700 11 NaN
13 2016-05-16 23:40:14.133000 3 3.500000
14 2016-05-16 23:50:14.133000 4 3.500000
15 2016-06-16 08:40:14.002700 11 NaN
16 2016-06-16 10:30:14.002700 27 NaN
17 2016-06-16 23:25:14.133000 3 4.000000
18 2016-06-16 23:30:14.133000 5 4.000000
19 2016-07-16 08:40:14.002700 7 NaN
20 2016-07-16 11:15:14.002700 9 NaN
21 2016-07-16 23:45:14.133000 18 18.000000
这是一个沉重的方法,可能还有一个更优雅和pythonic的方法可以做到这一点,但至少你有你的输出!
编辑:
肯定有更好的方法来使用熊猫。DataFrame.rolling在仅包含夜间行的子数据帧上滚动。例如,请参阅此问题。
下面是一个次优示例:
df['night'] = (df.Time.dt.hour>22) | (df.Time.dt.hour < 6)
df['date'] = df.Time.dt.date
idx = (df.night) & (df.Time.dt.hour>22)
df.loc[idx,'date'] = df.loc[idx,'date'].values + pd.DateOffset(1)
df.date = pd.to_datetime(df.date)
df = df.set_index('date').join(df.loc[df.night].set_index('date').resample("1d").Value.mean().rolling(window=3, min_periods=1).mean(),rsuffix="_rolling_mean").reset_index()
df.drop(['night','date'],1,inplace = True)