Як сайти з високим трафіком обслуговують понад 65535 TCP-з'єднань?

Якщо існує обмеження кількості портів, яке може мати одна машина, і сокет може прив'язуватися лише до невикористаного номера порту, як сервери, які мають надзвичайно велику кількість (більше, ніж максимальна кількість портів) запитів, обробляють це? Це просто робиться шляхом розподілу системи, тобто багатьох серверів на багатьох машинах?

Ви досить неправильно розумієте номери портів: сервер слухає лише один порт і може мати велику кількість відкритих сокетів від клієнтів, що підключаються до цього одного порту.

На рівні TCP кортеж (джерело ip, порт джерела, ip призначення, порт призначення) повинен бути унікальним для кожного одночасного з'єднання. Це означає, що один клієнт не може відкрити більше 65535 одночасних підключень до сервера. Але сервер може (теоретично) сервер 65535 одночасних з'єднань на клієнта .

Так що на практиці сервер обмежений лише кількістю потужності процесора, пам'яті і т.д. він повинен обслуговувати запити, а не кількістю TCP-підключень до сервера.

Ви помиляєтесь - унікальність сокета визначається чотирма факторами:

1. локальна IP-адреса
2. номер місцевого порту
3. віддалену IP-адресу
4. номер віддаленого порту

Пропонуючи мережеві послуги, 1. і 2. зазвичай є статичними (наприклад, IP 10.0.0.1, порт 80), але якщо ви не очікуєте тисяч підключень від одного клієнта (або одного шлюзу NAT), ви не збираєтеся натискати на межі для можливих комбінацій 3. і 4., перш ніж вичерпаєте місцеві ресурси.

Тож хоча клієнт практично не використовує порт, який вже використовується для з'єднання, щоб відкрити з'єднання з іншою цільовою IP-адресою, виснаження номера порту стане найменшою вашою проблемою майже для будь-якої програми - будь то на сервері чи сторона клієнта.

Проблема є справжньою з NAT-шлюзами (маршрутизаторами), що обслуговують клієнтів з великою кількістю відкритих вихідних з'єднань (наприклад, торентів) - там ви побачите вичерпання номерів портів після того, як пул портів, доступний для NAT, буде випорожнений. У цьому випадку NAT-шлюз не в змозі створити будь-яких додаткових асоціацій, таким чином ефективно відключаючи клієнтів від Інтернету.

Питання полягало в тому, як обробити великі підрахунки (> 64k). Два найпоширеніші методи:

• Додавання більше серверів, що збільшує кількість src / dst адрес та кортежів номерів портів. Існує кілька способів поділити навантаження на декілька серверів; DNS кругла робіна одна; є й інші

• Розгорніть "NAT-клас NAT" (що друг, насмішливо і правильно, на мою думку, називає "NAT-клас"). Це по суті НАТ НАТ. Це має дуже погані наслідки для додатків, але це те, що роблять деякі великі провайдери, коли у них не вистачає простору IPv4 та / або номерів портів та / або вони не хочуть переходити на IPv6.