[http] 웹 서버는 몇 개의 소켓 연결을 처리 할 수 ​​있습니까?

간단히 말해서 , 수백만 개의 동시 활성 TCP 연결과 확장 HTTP 요청 을 달성 할 수 있어야합니다 . 이를 통해 올바른 구성의 올바른 플랫폼에서 기대할 수있는 최대 성능을 알 수 있습니다.

오늘 저는 ASP.NET을 사용하는 IIS가 100 개의 동시 연결을 지원할지 여부가 걱정되었습니다 (내 업데이트를 살펴보면 이전 ASP.Net Mono 버전에서 초당 ~ 10k 응답이 예상 됨). 이 질문 / 답변을 보았을 때 스스로 대답하는 것을 거부 할 수 없었습니다. 여기에있는 질문에 대한 많은 답변은 완전히 틀 렸습니다.

최고의 사례

이 질문에 대한 대답은 다운 스트림에서 가능한 수많은 변수 및 구성에서 분리하기위한 가장 간단한 서버 구성에만 관련되어야합니다.

내 대답에 대해 다음 시나리오를 고려하십시오.

1. 연결 유지 패킷을 제외하고 TCP 세션에 트래픽이 없습니다 (그렇지 않으면 당연히 해당하는 양의 네트워크 대역폭 및 기타 컴퓨터 리소스가 필요합니다).
2. 풀의 요청 당 하드웨어 스레드가 아닌 비동기 소켓 및 프로그래밍을 사용하도록 설계된 소프트웨어입니다. (예 : IIS, Node.js, Nginx … 비동기로 설계된 응용 프로그램 소프트웨어를 사용하는 웹 서버 [Apache 아님])
3. 좋은 성능 / 달러 CPU / 램. 오늘, 임의로 8GB RAM이 장착 된 i7 (4 코어)을 가정 해 보겠습니다.
4. 일치하는 좋은 방화벽 / 라우터.
5. 가상 제한 / 관리자 없음-즉. 리눅스 somaxconn, IIS web.config …
6. 다른 느린 하드웨어에 대한 의존성 없음-네트워크 IO가 아닌 가장 낮은 공통 분모 및 병목 현상이 발생하기 때문에 하드 디스크에서 읽지 않습니다.

자세한 답변

동기식 스레드 바운드 설계는 비동기 IO 구현에 비해 성능이 가장 떨어지는 경향이 있습니다.

– 하나의 유닉스에 트래픽 만 얻을 WHATSAPP OS 시스템 맛 https://blog.whatsapp.com/index.php/2012/01/1-million-is-so-2011/을 .

그리고 마지막으로, http://highscalability.com/blog/2013/5/13/the-secret-to-10-million-concurrent-connections-the-kernel-i.html 은 많은 세부 사항에 대해 설명합니다. , 1 천만 개까지 달성 할 수있는 방법을 탐구합니다. 서버에는 종종 범용 CPU보다 더 효율적으로이 특정 역할을 위해 설계된 ASIC 인 하드웨어 TCP 오프로드 엔진이 있습니다.

좋은 소프트웨어 디자인 선택

비동기 IO 디자인은 운영 체제와 프로그래밍 플랫폼에 따라 다릅니다. Node.js는 비동기 를 염두에두고 설계되었습니다 . 최소한 Promises를 사용해야하며 ECMAScript 7이 나오면 async/ await. C # /. Net에는 이미 node.js와 같은 완전한 비동기 지원이 있습니다. OS와 플랫폼이 무엇이든 비동기식은 매우 잘 수행되어야합니다. 어떤 언어를 선택하든 “비동기”라는 키워드를 찾으십시오. 대부분의 최신 언어는 일종의 추가 기능이더라도 약간의 지원을받습니다.

WebFarm에?

특정 상황에 대한 제한이 무엇이든 웹 팜은 확장에 대한 하나의 좋은 솔루션입니다. 이를 달성하기위한 많은 아키텍처가 있습니다. 하나는로드 밸런서를 사용하는 것입니다 (호스팅 제공 업체가이를 제공 할 수 있지만 대역폭 제한과 함께 제한이 있음).이 옵션을 선호하지 않습니다. 장기 실행 연결이있는 단일 페이지 응용 프로그램의 경우 클라이언트 응용 프로그램이 시작할 때 무작위로 선택하고 응용 프로그램의 수명 동안 재사용 할 서버 목록을 공개하는 것을 선호합니다. 이를 통해 단일 장애 지점 (로드 밸런서)을 제거하고 여러 데이터 센터를 통해 확장 할 수 있으므로 훨씬 더 많은 대역폭을 사용할 수 있습니다.

신화 파열-64K 포트

“64,000”에 관한 질문 구성 요소를 다루기 위해 이것은 오해입니다. 서버는 65535 개 이상의 클라이언트에 연결할 수 있습니다. 참조 /networkengineering/48283/is-a-tcp-server-limited-to-65535-clients/48284를

그런데 Windows의 Http.sys는 여러 응용 프로그램이 HTTP URL 스키마에서 동일한 서버 포트를 공유하도록 허용합니다. 각각 별도의 도메인 바인딩을 등록하지만 궁극적으로 올바른 애플리케이션에 대한 요청을 프록시하는 단일 서버 애플리케이션이 있습니다.

업데이트 2019-05-30

다음은 가장 빠른 HTTP 라이브러리의 최신 비교입니다-https: //www.techempower.com/benchmarks/#section=data-r16&hw=ph&test=plaintext

• 테스트 날짜 : 2018-06-06
• 사용 된 하드웨어 : Dell R440 Xeon Gold + 10GbE
• 리더는 초당 ~ 7M 일반 텍스트 응답을 가지고 있습니다 (연결이 아닌 응답).
• golang 용 두 번째 Fasthttp는 150 만 동시 연결을 알립니다. https://github.com/valyala/fasthttp 참조
• 주요 언어는 Rust, Go, C ++, Java, C이며 심지어 C # 순위는 11 (초당 6.9M)입니다. Scala와 Clojure는 순위가 더 낮습니다. Python은 초당 2.7M로 29 위입니다.
• 목록 맨 아래에 laravel 및 cakephp, rails, aspnet-mono-ngx, symfony, zend가 있습니다. 모두 초당 10k 미만. 이러한 프레임 워크의 대부분은 동적 페이지 용으로 빌드되었으며 꽤 오래되었습니다. 목록에서 상위에있는 새로운 변형이있을 수 있습니다.
• 이것은 Websocket 전문 분야가 아니라 HTTP 일반 텍스트임을 기억하십시오. 여기에 오는 많은 사람들은 websocket의 동시 연결에 관심이있을 것입니다.

---

답변