选择两个日期之间的 DataFrame 行
Posted
技术标签:
【中文标题】选择两个日期之间的 DataFrame 行【英文标题】：Select DataFrame rows between two dates 【发布时间】：2015-06-04 21:01:39 【问题描述】：我正在从 csv 创建一个 DataFrame，如下所示：
stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)
DataFrame 有一个日期列。有没有办法创建一个新的 DataFrame（或只是覆盖现有的 DataFrame），它只包含日期值在指定日期范围内或两个指定日期值之间的行？
【问题讨论】：
【参考方案1】：有两种可能的解决方案：
使用布尔掩码，然后使用df.loc[mask]
将日期列设置为DatetimeIndex，然后使用df[start_date : end_date]
使用布尔掩码：
确保df['date'] 是一个数据类型为datetime64[ns] 的系列：
df['date'] = pd.to_datetime(df['date'])
制作一个布尔掩码。 start_date 和 end_date 可以是 datetime.datetimes，
np.datetime64s、pd.Timestamps，甚至是日期时间字符串：
#greater than the start date and smaller than the end date
mask = (df['date'] > start_date) & (df['date'] <= end_date)
选择子DataFrame：
df.loc[mask]
或重新分配给df
df = df.loc[mask]
例如，
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])
产量
0 1 2 date
153 0.208875 0.727656 0.037787 2000-06-02
154 0.750800 0.776498 0.237716 2000-06-03
155 0.812008 0.127338 0.397240 2000-06-04
156 0.639937 0.207359 0.533527 2000-06-05
157 0.416998 0.845658 0.872826 2000-06-06
158 0.440069 0.338690 0.847545 2000-06-07
159 0.202354 0.624833 0.740254 2000-06-08
160 0.465746 0.080888 0.155452 2000-06-09
161 0.858232 0.190321 0.432574 2000-06-10
使用DatetimeIndex：
如果您要按日期进行大量选择，设置
date 列首先作为索引。然后您可以使用按日期选择行
df.loc[start_date:end_date].
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])
产量
0 1 2
date
2000-06-01 0.040457 0.326594 0.492136 # <- includes start_date
2000-06-02 0.279323 0.877446 0.464523
2000-06-03 0.328068 0.837669 0.608559
2000-06-04 0.107959 0.678297 0.517435
2000-06-05 0.131555 0.418380 0.025725
2000-06-06 0.999961 0.619517 0.206108
2000-06-07 0.129270 0.024533 0.154769
2000-06-08 0.441010 0.741781 0.470402
2000-06-09 0.682101 0.375660 0.009916
2000-06-10 0.754488 0.352293 0.339337
当 Python 列表索引时，例如seq[start:end] 包含 start 但不包含 end，相比之下，Pandas df.loc[start_date : end_date] 在结果中包含 both 端点（如果它们在索引中）。但是，start_date 和 end_date 都不必在索引中。
还要注意pd.read_csv has a parse_dates parameter，您可以使用它来将date 列解析为datetime64s。因此，如果您使用parse_dates，则不需要使用df['date'] = pd.to_datetime(df['date'])。
【讨论】：
将日期列设置为索引效果很好，但是从我看到的文档中并不清楚可以做到这一点。谢谢。 @FaheemMitha：我在上面添加了a link 到记录“部分字符串索引”的位置。 在df = df.set_index(['date']) 步骤之后，我发现索引也需要排序（通过df.sort_index(inplace=True, ascending=True)），否则您可能会从df.loc['2000-6-1':'2000-6-10'] 获得不完整甚至空的DataFrame 结果。如果你使用ascending=False，那根本行不通，即使你用df.loc['2000-6-10':'2000-6-1']反转它
如果您想保留“日期”列，同时仍将其值赋予数据框的索引，您可以这样做 df.index = df['date']
对于第一种方法，需要将日期字符串转换为datetime.date 才能使关系操作起作用。否则它会抛出一个TypeError。例如 pd.to_datetime("2000-6-1").date() 让它为我工作。【参考方案2】：
我觉得最好的选择是使用直接检查而不是使用 loc 函数：
df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]
它对我有用。
带有切片的 loc 函数的主要问题是限制应该存在于实际值中，否则会导致 KeyError。
【讨论】：
我认为通过loc 进行的切片很棒。在我看来，正如 unutbu 所说，start_date 和 end_date 都不必在索引中。
如何将日期过滤为（到当前日期前 14 天）.. 如果今天的日期是 2019-01-15... 我需要来自 ( 2019-01-01 的数据直到 2019-01-15)
简洁优雅。谢谢克里斯汀，这就是我想要做的。为我工作。【参考方案3】：
您可以像这样在date 列上使用isin 方法
df[df["date"].isin(pd.date_range(start_date, end_date))]
注意：这仅适用于日期（如问题所问），不适用于时间戳。
示例：
import numpy as np
import pandas as pd
# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]
print(in_range_df) # print result
给了
0 1 2 date
14 0.960974 0.144271 0.839593 2017-01-15
15 0.814376 0.723757 0.047840 2017-01-16
16 0.911854 0.123130 0.120995 2017-01-17
17 0.505804 0.416935 0.928514 2017-01-18
18 0.204869 0.708258 0.170792 2017-01-19
19 0.014389 0.214510 0.045201 2017-01-20
【讨论】：
我在尝试执行此操作时似乎收到此错误：ValueError：四个参数中：开始、结束、句点和频率，必须指定三个 你用的是什么代码？pd.date_range 接受四个参数，但您最多只需要设置其中三个参数。由于四个参数中有两个是可选的，因此有时可以只指定 2 个参数。但是，如果没有看到您的代码，我无法告诉您如何修复它【参考方案4】：
保持解决方案简单和pythonic，我建议你试试这个。
如果您要经常这样做，最好的解决方案是首先将日期列设置为索引，这将转换 DateTimeIndex 中的列并使用以下条件来分割任何日期范围。
import pandas as pd
data_frame = data_frame.set_index('date')
df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]
【讨论】：
【参考方案5】：我不想更改df。
一个选项是检索start 和end 日期的index：
import numpy as np
import pandas as pd
#Dummy DataFrame
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
#Get the index of the start and end dates respectively
start = df[df['date']=='2017-01-07'].index[0]
end = df[df['date']=='2017-01-14'].index[0]
#Show the sliced df (from 2017-01-07 to 2017-01-14)
df.loc[start:end]
导致：
0 1 2 date
6 0.5 0.8 0.8 2017-01-07
7 0.0 0.7 0.3 2017-01-08
8 0.8 0.9 0.0 2017-01-09
9 0.0 0.2 1.0 2017-01-10
10 0.6 0.1 0.9 2017-01-11
11 0.5 0.3 0.9 2017-01-12
12 0.5 0.4 0.3 2017-01-13
13 0.4 0.9 0.9 2017-01-14
【讨论】：
【参考方案6】：你也可以使用between:
df[df.some_date.between(start_date, end_date)]
【讨论】：
同时检查between_time: pandas.pydata.org/pandas-docs/version/0.20.3/generated/…
@AntonTarasenko 奇怪的是，不能使用 datetimes，而只能使用 times。我花了一段时间才意识到这种区别。这就是我最终咨询该主题的方式。【参考方案7】：
pandas 0.22 有一个between() 函数。
使回答这个问题更容易，代码更易读。
# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame('dates':pd.date_range('2018-01-01','2019-01-01'))
假设您要获取 2018 年 11 月 27 日到 2019 年 1 月 15 日之间的日期：
# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)
0 False
1 False
2 False
3 False
4 False
# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]
dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02
注意inclusive 参数。 非常当你想明确你的范围时很有帮助。请注意，当设置为 True 时，我们也会返回 2018 年 11 月 27 日：
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
这个方法也比前面提到的isin方法快：
%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
%%timeit -n 5
df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
但是，它不快于由 unutbu 提供的当前接受的答案，前提是 已经创建了掩码。但是如果掩码是动态的并且需要一遍又一遍地重新分配，我的方法可能会更有效：
# already create the mask THEN time the function
start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)
%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
【讨论】：
【参考方案8】：另一个选项，如何实现这一点，是使用pandas.DataFrame.query() 方法。让我向您展示以下名为 df 的数据框的示例。
>>> df = pd.DataFrame(np.random.random((5, 1)), columns=['col_1'])
>>> df['date'] = pd.date_range('2020-1-1', periods=5, freq='D')
>>> print(df)
col_1 date
0 0.015198 2020-01-01
1 0.638600 2020-01-02
2 0.348485 2020-01-03
3 0.247583 2020-01-04
4 0.581835 2020-01-05
作为参数，使用过滤条件如下：
>>> start_date, end_date = '2020-01-02', '2020-01-04'
>>> print(df.query('date >= @start_date and date <= @end_date'))
col_1 date
1 0.244104 2020-01-02
2 0.374775 2020-01-03
3 0.510053 2020-01-04
如果您不想包含边界，只需将条件更改如下：
>>> print(df.query('date > @start_date and date < @end_date'))
col_1 date
2 0.374775 2020-01-03
【讨论】：
【参考方案9】：您可以使用 pd.date_range() 和 Timestamp 来完成。 假设您使用 parse_dates 选项读取了包含日期列的 csv 文件：
df = pd.read_csv('my_file.csv', parse_dates=['my_date_col'])
然后你可以定义一个日期范围索引：
rge = pd.date_range(end='15/6/2020', periods=2)
然后借助地图按日期过滤您的值：
df.loc[df['my_date_col'].map(lambda row: row.date() in rge)]
【讨论】：
【参考方案10】：灵感来自 unutbu
print(df.dtypes) #Make sure the format is 'object'. Rerunning this after index will not show values.
columnName = 'YourColumnName'
df[columnName+'index'] = df[columnName] #Create a new column for index
df.set_index(columnName+'index', inplace=True) #To build index on the timestamp/dates
df.loc['2020-09-03 01:00':'2020-09-06'] #Select range from the index. This is your new Dataframe.
【讨论】：
【参考方案11】：可以使用truncate的方法：
dates = pd.date_range('2016-01-01', '2016-01-06', freq='d')
df = pd.DataFrame(index=dates, data='A': 1)
A
2016-01-01 1
2016-01-02 1
2016-01-03 1
2016-01-04 1
2016-01-05 1
2016-01-06 1
选择两个日期之间的数据：
df.truncate(before=pd.Timestamp('2016-01-02'),
after=pd.Timestamp('2016-01-4'))
输出：
A
2016-01-02 1
2016-01-03 1
2016-01-04 1
【讨论】：
以上是关于选择两个日期之间的 DataFrame 行的主要内容，如果未能解决你的问题，请参考以下文章
Pandas：从 Pandas DataFrame 中选择两个日期之间的所有数据