[java] Java와 C / C ++ 간의 프로세스 간 통신을위한 가장 빠른 (낮은 지연) 방법

Corei5 2.8GHz에서 Java의 지연 시간을 테스트했습니다. 단일 바이트 전송 / 수신, 2 개의 Java 프로세스가 방금 생성되었으며 작업 세트와 함께 특정 CPU 코어를 할당하지 않았습니다.

TCP         - 25 microseconds
Named pipes - 15 microseconds

이제 taskset 1 java Srv 또는 taskset 2 java Cli 와 같이 코어 마스크를 명시 적으로 지정합니다 .

TCP, same cores:                      30 microseconds
TCP, explicit different cores:        22 microseconds
Named pipes, same core:               4-5 microseconds !!!!
Named pipes, taskset different cores: 7-8 microseconds !!!!

그래서

TCP overhead is visible
scheduling overhead (or core caches?) is also the culprit

동시에 Thread.sleep (0) (strace가 보여 주듯이 단일 sched_yield () Linux 커널 호출이 실행 됨)은 0.3 마이크로 초가 걸립니다. 따라서 단일 코어로 예약 된 명명 된 파이프에는 여전히 많은 오버 헤드가 있습니다.

일부 공유 메모리 측정 :
2009 년 9 월 14 일 – Solace Systems는 오늘 자사의 통합 메시징 플랫폼 API가 공유 메모리 전송을 사용하여 700 나노초 미만의 평균 대기 시간을 달성 할 수 있다고 발표했습니다.
http://solacesystems.com/news/fastest-ipc-messaging/

추신-다음날 메모리 매핑 파일의 형태로 공유 메모리를 시도했습니다. 바쁜 대기가 허용되는 경우 다음과 같은 코드로 단일 바이트를 전달하는 대기 시간을 0.3 마이크로 초로 줄일 수 있습니다.

MappedByteBuffer mem =
  new RandomAccessFile("/tmp/mapped.txt", "rw").getChannel()
  .map(FileChannel.MapMode.READ_WRITE, 0, 1);

while(true){
  while(mem.get(0)!=5) Thread.sleep(0); // waiting for client request
  mem.put(0, (byte)10); // sending the reply
}

참고 : Thread.sleep (0)이 필요하므로 두 프로세스가 서로의 변경 사항을 볼 수 있습니다 (아직 다른 방법은 모릅니다). 2 개의 프로세스가 작업 세트와 동일한 코어로 강제되면 지연 시간이 1.5 마이크로 초가됩니다. 이는 컨텍스트 전환 지연입니다.

PPS-0.3 마이크로 초는 좋은 수치입니다! 다음 코드는 기본 문자열 연결 만 수행하는 동안 정확히 0.1 마이크로 초가 걸립니다.

int j=123456789;
String ret = "my-record-key-" + j  + "-in-db";

PPPS-이것이 너무 주제에서 벗어난 것이 아니기를 바라지 만, 마침내 Thread.sleep (0)을 정적 휘발성 int 변수 (이렇게 할 때 JVM이 CPU 캐시를 플러시하는 일이 발생 함)를 증가시켜 바꾸려고 시도하고 획득했습니다-기록! – 72 나노초 지연 자바 대 자바 프로세스 통신 !

그러나 동일한 CPU 코어로 강제 될 때 휘발성 증가 JVM은 서로 제어를 양보하지 않으므로 정확히 10 밀리 초의 지연 시간이 발생합니다. Linux 시간 퀀텀은 5ms 인 것 같습니다. 따라서 예비 코어가있는 경우에만 사용해야합니다. 그렇지 않으면 sleep (0)이 더 안전합니다.

답변

Implementation, Min,   50%,   90%,   99%,   99.9%, 99.99%,Max
IPC busy-spin,  89,    127,   168,   3326,  6501,  11555, 25131
UDP busy-spin,  4597,  5224,  5391,  5958,  8466,  10918, 18396
TCP busy-spin,  6244,  6784,  7475,  8697,  11070, 16791, 27265
TCP select-now, 8858,  9617,  9845,  12173, 13845, 19417, 26171
TCP block,      10696, 13103, 13299, 14428, 15629, 20373, 32149
TCP select,     13425, 15426, 15743, 18035, 20719, 24793, 37877