r

dplyr 하이브리드 옵션은 Base R 서브 세트 재 할당보다 약 30 % 빠릅니다. 100M 데이터 포인트에서 데이터 프레임 mutate_all(~replace(., is.na(.), 0))은 기본 R d[is.na(d)] <- 0옵션 보다 0.5 초 빠르게 실행됩니다 . 구체적으로 피하고 싶은 것은 ifelse()또는을 사용하는 것 if_else()입니다. (이러한 접근 방식을 포함하여 600 건의 전체 시험 분석이 4.5 시간 이상 진행되었습니다.) 전체 결과는 아래의 벤치 마크 분석을 참조하십시오.

방대한 데이터 프레임으로 어려움을 겪고 있다면 data.table표준 Base R 방식 보다 40 % 더 빠릅니다 . 또한 데이터를 제자리에 수정하여 거의 두 배의 데이터를 한 번에 처리 할 수 ​​있습니다.

다른 유용한 tidyverse 대체 접근법의 클러스터링

위치 :

• 인덱스 mutate_at(c(5:10), ~replace(., is.na(.), 0))
• 직접 참조 mutate_at(vars(var5:var10), ~replace(., is.na(.), 0))
• 고정 경기 mutate_at(vars(contains("1")), ~replace(., is.na(.), 0))
  • 나 대신에 contains(), 시도 ends_with(),starts_with()
• 패턴 일치 mutate_at(vars(matches("\\d{2}")), ~replace(., is.na(.), 0))

조건부 :
(단일 유형 만 변경하고 다른 유형은 그대로 두십시오.)

• 정수 mutate_if(is.integer, ~replace(., is.na(.), 0))
• 번호 mutate_if(is.numeric, ~replace(., is.na(.), 0))
• 줄 mutate_if(is.character, ~replace(., is.na(.), 0))

완전한 분석-

dplyr 0.8.0으로 업데이트 : 함수는 purrr 형식 ~기호를 사용 funs()합니다. 더 이상 사용되지 않는 인수를 대체 합니다.

테스트 된 접근법 :

# Base R: 
baseR.sbst.rssgn   <- function(x) { x[is.na(x)] <- 0; x }
baseR.replace      <- function(x) { replace(x, is.na(x), 0) }
baseR.for          <- function(x) { for(j in 1:ncol(x))
    x[[j]][is.na(x[[j]])] = 0 }

# tidyverse
## dplyr
dplyr_if_else      <- function(x) { mutate_all(x, ~if_else(is.na(.), 0, .)) }
dplyr_coalesce     <- function(x) { mutate_all(x, ~coalesce(., 0)) }

## tidyr
tidyr_replace_na   <- function(x) { replace_na(x, as.list(setNames(rep(0, 10), as.list(c(paste0("var", 1:10)))))) }

## hybrid 
hybrd.ifelse     <- function(x) { mutate_all(x, ~ifelse(is.na(.), 0, .)) }
hybrd.replace_na <- function(x) { mutate_all(x, ~replace_na(., 0)) }
hybrd.replace    <- function(x) { mutate_all(x, ~replace(., is.na(.), 0)) }
hybrd.rplc_at.idx<- function(x) { mutate_at(x, c(1:10), ~replace(., is.na(.), 0)) }
hybrd.rplc_at.nse<- function(x) { mutate_at(x, vars(var1:var10), ~replace(., is.na(.), 0)) }
hybrd.rplc_at.stw<- function(x) { mutate_at(x, vars(starts_with("var")), ~replace(., is.na(.), 0)) }
hybrd.rplc_at.ctn<- function(x) { mutate_at(x, vars(contains("var")), ~replace(., is.na(.), 0)) }
hybrd.rplc_at.mtc<- function(x) { mutate_at(x, vars(matches("\\d+")), ~replace(., is.na(.), 0)) }
hybrd.rplc_if    <- function(x) { mutate_if(x, is.numeric, ~replace(., is.na(.), 0)) }

# data.table   
library(data.table)
DT.for.set.nms   <- function(x) { for (j in names(x))
    set(x,which(is.na(x[[j]])),j,0) }
DT.for.set.sqln  <- function(x) { for (j in seq_len(ncol(x)))
    set(x,which(is.na(x[[j]])),j,0) }
DT.nafill        <- function(x) { nafill(df, fill=0)}
DT.setnafill     <- function(x) { setnafill(df, fill=0)}

이 분석을위한 코드 :

library(microbenchmark)
# 20% NA filled dataframe of 10 Million rows and 10 columns
set.seed(42) # to recreate the exact dataframe
dfN <- as.data.frame(matrix(sample(c(NA, as.numeric(1:4)), 1e7*10, replace = TRUE),
                            dimnames = list(NULL, paste0("var", 1:10)),
                            ncol = 10))
# Running 600 trials with each replacement method 
# (the functions are excecuted locally - so that the original dataframe remains unmodified in all cases)
perf_results <- microbenchmark(
    hybrid.ifelse    = hybrid.ifelse(copy(dfN)),
    dplyr_if_else    = dplyr_if_else(copy(dfN)),
    hybrd.replace_na = hybrd.replace_na(copy(dfN)),
    baseR.sbst.rssgn = baseR.sbst.rssgn(copy(dfN)),
    baseR.replace    = baseR.replace(copy(dfN)),
    dplyr_coalesce   = dplyr_coalesce(copy(dfN)),
    tidyr_replace_na = tidyr_replace_na(copy(dfN)),
    hybrd.replace    = hybrd.replace(copy(dfN)),
    hybrd.rplc_at.ctn= hybrd.rplc_at.ctn(copy(dfN)),
    hybrd.rplc_at.nse= hybrd.rplc_at.nse(copy(dfN)),
    baseR.for        = baseR.for(copy(dfN)),
    hybrd.rplc_at.idx= hybrd.rplc_at.idx(copy(dfN)),
    DT.for.set.nms   = DT.for.set.nms(copy(dfN)),
    DT.for.set.sqln  = DT.for.set.sqln(copy(dfN)),
    times = 600L
)

결과 요약

> print(perf_results)
Unit: milliseconds
              expr       min        lq     mean   median       uq      max neval
      hybrd.ifelse 6171.0439 6339.7046 6425.221 6407.397 6496.992 7052.851   600
     dplyr_if_else 3737.4954 3877.0983 3953.857 3946.024 4023.301 4539.428   600
  hybrd.replace_na 1497.8653 1706.1119 1748.464 1745.282 1789.804 2127.166   600
  baseR.sbst.rssgn 1480.5098 1686.1581 1730.006 1728.477 1772.951 2010.215   600
     baseR.replace 1457.4016 1681.5583 1725.481 1722.069 1766.916 2089.627   600
    dplyr_coalesce 1227.6150 1483.3520 1524.245 1519.454 1561.488 1996.859   600
  tidyr_replace_na 1248.3292 1473.1707 1521.889 1520.108 1570.382 1995.768   600
     hybrd.replace  913.1865 1197.3133 1233.336 1238.747 1276.141 1438.646   600
 hybrd.rplc_at.ctn  916.9339 1192.9885 1224.733 1227.628 1268.644 1466.085   600
 hybrd.rplc_at.nse  919.0270 1191.0541 1228.749 1228.635 1275.103 2882.040   600
         baseR.for  869.3169 1180.8311 1216.958 1224.407 1264.737 1459.726   600
 hybrd.rplc_at.idx  839.8915 1189.7465 1223.326 1228.329 1266.375 1565.794   600
    DT.for.set.nms  761.6086  915.8166 1015.457 1001.772 1106.315 1363.044   600
   DT.for.set.sqln  787.3535  918.8733 1017.812 1002.042 1122.474 1321.860   600

결과의 상자 그림

ggplot(perf_results, aes(x=expr, y=time/10^9)) +
    geom_boxplot() +
    xlab('Expression') +
    ylab('Elapsed Time (Seconds)') +
    scale_y_continuous(breaks = seq(0,7,1)) +
    coord_flip()

시험의 색으로 구분 된 산점도 (로그 스케일에서 y 축 사용)

qplot(y=time/10^9, data=perf_results, colour=expr) +
    labs(y = "log10 Scaled Elapsed Time per Trial (secs)", x = "Trial Number") +
    coord_cartesian(ylim = c(0.75, 7.5)) +
    scale_y_log10(breaks=c(0.75, 0.875, 1, 1.25, 1.5, 1.75, seq(2, 7.5)))

다른 고성능 연주자에 대한 메모

데이터 집합이 커질 때, Tidyr ‘의이 replace_na역사적 앞에 꺼내었다. 현재 100M 개의 데이터 포인트가 수집되므로 Base R For Loop 와 거의 동일하게 수행 됩니다. 다른 크기의 데이터 프레임에서 어떤 일이 발생하는지 궁금합니다.

mutate및 summarize _at및 _all기능 변형에 대한 추가 예제는 여기 ( https://rdrr.io/cran/dplyr/man/summarise_all.html) 에서 찾을 수 있습니다.
또한 https : //blog.exploratory 에서 유용한 데모 및 예제 모음을 발견했습니다 . io / dplyr-0-5- 굉장히 여기-왜 -be095fd4eb8a

기여와 감사

특별한 덕분에 :

• 마이크로 벤치 마크를 보여준 Tyler Rinker 와 Akrun .
• alexis_laz 님이 저의 사용을 이해하도록 도와 주셔서 감사합니다 local()(프랭크의 환자의 도움으로). 이러한 강요의 대부분을 가속화하는 데 침묵 강요가하는 역할도 있습니다.
• poke가 새로운 coalesce()기능 을 추가 하고 분석을 업데이트 하기위한 ArthurYip
• 그 너 저는 그 라인 저에 data.table기능을 포함시키기에 충분히 기능 을 알아낼 수 있도록 그레고르 (Gregor) .
• 기본 R For 루프 : alexis_laz
• data.table For 루프 : Matt_Dowle
• is.numeric()실제로 테스트 하는 것을 설명하는 로마자 .

(물론, 그러한 접근 방식이 유용하다고 생각되면, 그들에게 다가 가서 투표를하십시오.)

숫자 사용에 대한 참고 사항 : 순수한 정수 데이터 세트가 있으면 모든 함수가 더 빨리 실행됩니다. 자세한 내용은 alexiz_laz의 작업 을 참조하십시오. IRL, 10-15 % 이상의 정수가 포함 된 데이터 세트가 발생하는 것을 기억할 수 없으므로 완전 숫자 데이터 프레임에서 이러한 테스트를 실행하고 있습니다.

24GB RAM의 3.9GHz CPU 사용 하드웨어

답변

x <- c(1,2,NA,4,5)
x[is.na(x)] <- 0

library(dplyr)

df1 <- df1 %>%
    mutate(myCol1 = if_else(is.na(myCol1), 0, myCol1))

  write.csv(data, "data.csv", na = "0")

na.zero <- function (x) {
    x[is.na(x)] <- 0
    return(x)
}

na.zero(some.vector)

library(dplyr)
df <- data.frame(v = c(1, 2, 3, NA, 5, 6, 8))

df
#    v
# 1  1
# 2  2
# 3  3
# 4 NA
# 5  5
# 6  6
# 7  8

df %>% mutate(v = coalesce(v, 0))
#   v
# 1 1
# 2 2
# 3 3
# 4 0
# 5 5
# 6 6
# 7 8