다음과 같이 CSV에서 DataFrame을 만들고 있습니다.
stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)DataFrame에는 날짜 열이 있습니다. 지정된 날짜 범위 내에 있거나 지정된 두 날짜 값 사이에 날짜 값이있는 행만 포함하는 새 DataFrame을 만들거나 기존 프레임을 덮어 쓰는 방법이 있습니까?
답변
가능한 두 가지 해결책이 있습니다.
- 부울 마스크를 사용한 다음
df.loc[mask] - 날짜 열을 DatetimeIndex로 설정 한 다음
df[start_date : end_date]
부울 마스크 사용 :
df['date']dtype이있는 Series 인지 확인하십시오 datetime64[ns].
df['date'] = pd.to_datetime(df['date']) 부울 마스크를 만듭니다. start_date그리고 end_date될 수있다 datetime.datetimeS,
np.datetime64S, pd.TimestampS, 또는 날짜 문자열 :
#greater than the start date and smaller than the end date
mask = (df['date'] > start_date) & (df['date'] <= end_date)하위 DataFrame을 선택하십시오.
df.loc[mask]또는 재 할당 df
df = df.loc[mask]예를 들어
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')
print(df.loc[mask])수확량
0 1 2 date
153 0.208875 0.727656 0.037787 2000-06-02
154 0.750800 0.776498 0.237716 2000-06-03
155 0.812008 0.127338 0.397240 2000-06-04
156 0.639937 0.207359 0.533527 2000-06-05
157 0.416998 0.845658 0.872826 2000-06-06
158 0.440069 0.338690 0.847545 2000-06-07
159 0.202354 0.624833 0.740254 2000-06-08
160 0.465746 0.080888 0.155452 2000-06-09
161 0.858232 0.190321 0.432574 2000-06-10DatetimeIndex 사용 :
날짜별로 많은 항목을 선택하려는 경우 date먼저 열을 색인으로 설정하는 것이 더 빠를 수 있습니다
. 그런 다음을 사용하여 날짜별로 행을 선택할 수 있습니다
df.loc[start_date:end_date].
import numpy as np
import pandas as pd
df = pd.DataFrame(np.random.random((200,3)))
df['date'] = pd.date_range('2000-1-1', periods=200, freq='D')
df = df.set_index(['date'])
print(df.loc['2000-6-1':'2000-6-10'])수확량
0 1 2
date
2000-06-01 0.040457 0.326594 0.492136 # <- includes start_date
2000-06-02 0.279323 0.877446 0.464523
2000-06-03 0.328068 0.837669 0.608559
2000-06-04 0.107959 0.678297 0.517435
2000-06-05 0.131555 0.418380 0.025725
2000-06-06 0.999961 0.619517 0.206108
2000-06-07 0.129270 0.024533 0.154769
2000-06-08 0.441010 0.741781 0.470402
2000-06-09 0.682101 0.375660 0.009916
2000-06-10 0.754488 0.352293 0.339337반면 파이썬 목록 색인화 (예 : seq[start:end]포함 start하지만 포함 하지 않음 end)는 Pandas 가 색인에있는 경우 결과에 두 끝점을 모두df.loc[start_date : end_date] 포함 합니다 . 그러나 색인에 포함되어 있지 start_date않아도 end_date됩니다.
또한 열을 s 로 구문 분석하는 데 사용할 수 pd.read_csv있는 parse_dates매개 변수 가 있습니다 . 따라서을 사용하면을 사용할 필요가 없습니다 .datedatetime64parse_datesdf['date'] = pd.to_datetime(df['date'])
답변
가장 좋은 옵션은 loc 함수를 사용하는 대신 직접 검사를 사용하는 것입니다.
df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]그것은 나를 위해 작동합니다.
슬라이스가있는 loc 함수의 주요 문제는 실제 값에 한계가 있어야한다는 것입니다. 그렇지 않으면 KeyError가 발생합니다.
답변
당신은 또한 사용할 수 있습니다 between:
df[df.some_date.between(start_date, end_date)]답변
열
에서 isin방법을 사용할 수 있습니다datedf[df["date"].isin(pd.date_range(start_date, end_date))]
참고 : 이것은 타임 스탬프가 아닌 날짜 (질문과 함께)에서만 작동합니다.
예:
import numpy as np
import pandas as pd
# Make a DataFrame with dates and random numbers
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
# Select the rows between two dates
in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))]
print(in_range_df) # print result어느 것이
0 1 2 date
14 0.960974 0.144271 0.839593 2017-01-15
15 0.814376 0.723757 0.047840 2017-01-16
16 0.911854 0.123130 0.120995 2017-01-17
17 0.505804 0.416935 0.928514 2017-01-18
18 0.204869 0.708258 0.170792 2017-01-19
19 0.014389 0.214510 0.045201 2017-01-20답변
솔루션을 단순하고 pythonic으로 유지하려면 이것을 시도해보십시오.
이 작업을 자주 수행하려는 경우 가장 좋은 해결책은 먼저 날짜 열을 인덱스로 설정하여 DateTimeIndex의 열을 변환하고 다음 조건을 사용하여 날짜 범위를 슬라이스하는 것입니다.
import pandas as pd
data_frame = data_frame.set_index('date')
df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]답변
내 pandas버전 테스트를 통해 0.22.0이제 간단히을 사용하여 더 읽기 쉬운 코드로이 질문에 쉽게 대답 할 수 있습니다 between.
# create a single column DataFrame with dates going from Jan 1st 2018 to Jan 1st 2019
df = pd.DataFrame({'dates':pd.date_range('2018-01-01','2019-01-01')})2018 년 11 월 27 일과 2019 년 1 월 15 일 사이의 날짜를 가져오고 싶다고 가정 해 봅시다.
# use the between statement to get a boolean mask
df['dates'].between('2018-11-27','2019-01-15', inclusive=False)
0 False
1 False
2 False
3 False
4 False
# you can pass this boolean mask straight to loc
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=False)]
dates
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01
335 2018-12-02포괄적 인 주장에 주목하십시오. 당신이 당신의 범위에 대해 명시 적으로하고 싶을 때 매우 유용합니다. True로 설정하면 2018 년 11 월 27 일도 반환됩니다.
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
dates
330 2018-11-27
331 2018-11-28
332 2018-11-29
333 2018-11-30
334 2018-12-01이 방법은 이전에 언급 한 isin방법 보다 빠릅니다 .
%%timeit -n 5
df.loc[df['dates'].between('2018-11-27','2019-01-15', inclusive=True)]
868 µs ± 164 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)
%%timeit -n 5
df.loc[df['dates'].isin(pd.date_range('2018-01-01','2019-01-01'))]
1.53 ms ± 305 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)그러나 마스크가 이미 작성된 경우에만 unutbu가 제공하는 현재 허용되는 응답보다 빠르지 않습니다 . 그러나 마스크가 동적이며 반복해서 다시 할당 해야하는 경우 내 방법 이 더 효율적일 수 있습니다.
# already create the mask THEN time the function
start_date = dt.datetime(2018,11,27)
end_date = dt.datetime(2019,1,15)
mask = (df['dates'] > start_date) & (df['dates'] <= end_date)
%%timeit -n 5
df.loc[mask]
191 µs ± 28.5 µs per loop (mean ± std. dev. of 7 runs, 5 loops each)답변
나는 변경하지 않는 것을 선호한다 df 좋습니다.
옵션은 및 날짜 를 검색하는 것 index입니다 .startend
import numpy as np
import pandas as pd
#Dummy DataFrame
df = pd.DataFrame(np.random.random((30, 3)))
df['date'] = pd.date_range('2017-1-1', periods=30, freq='D')
#Get the index of the start and end dates respectively
start = df[df['date']=='2017-01-07'].index[0]
end = df[df['date']=='2017-01-14'].index[0]
#Show the sliced df (from 2017-01-07 to 2017-01-14)
df.loc[start:end]결과 :
0 1 2 date
6 0.5 0.8 0.8 2017-01-07
7 0.0 0.7 0.3 2017-01-08
8 0.8 0.9 0.0 2017-01-09
9 0.0 0.2 1.0 2017-01-10
10 0.6 0.1 0.9 2017-01-11
11 0.5 0.3 0.9 2017-01-12
12 0.5 0.4 0.3 2017-01-13
13 0.4 0.9 0.9 2017-01-14