Nginx proxy_read_timeout vs proxy_connect_timeout

Я почав використовувати Nginx як зворотний проксі для набору серверів, які надають якусь послугу.

Сервіс часом може бути досить повільним (його робота на Java та JVM іноді застрягає в "повному збиранні сміття", що може зайняти кілька секунд), тому я встановив proxy_connect_timeout2 секунди, що дасть Nginx достатньо часу для розробки Виявилося, що служба застрягла в GC і не буде відповідати вчасно, і він повинен передати запит на інший сервер.

Я також встановив, proxy_read_timeoutщоб запобігти застрягання зворотного проксі, якщо самому сервісу потрібно занадто багато часу для обчислення відповіді - знову ж таки, він повинен перенести запит на інший сервер, який повинен бути достатньо вільним, щоб своєчасно повернути відповідь.

Я запустив деякі орієнтири, і я чітко бачу, що proxy_connect_timeoutпрацює належним чином, оскільки деякі запити повертаються точно в той час, який вказаний на час очікування з'єднання, оскільки служба застрягла і не приймає вхідні з'єднання (служба використовує Jetty як вбудований контейнер для сервлетів). proxy_read_timeoutТакож працює, як я можу бачити запити, повернення після тайм - ауту вказано там.

Проблема полягає в тому, що я б очікував побачити деякі запити через час очікування proxy_read_timeout + proxy_connect_timeoutабо майже за той проміжок часу, якщо служба застрягла і не прийме з'єднань, коли Nginx намагається отримати доступ до неї, але до того, як Nginx може закінчити час - він буде випущений і починає обробку, але занадто повільно, і Nginx б перервав через час очікування читання. Я вважаю, що служба має такі випадки, але після запуску декількох орієнтирів, загальною кількістю декількох мільйонів запитів - я не побачив жодного запиту, який повертається в чомусь вище proxy_read_timeout(що більший час очікування).

Буду вдячний за будь-який коментар до цього питання, хоча я думаю, що це може бути пов’язано з помилкою в Nginx (я ще не повинен переглянути код, тому це лише припущення), що лічильник часу очікування не буде скинутий після з'єднання є успішним, якщо Nginx нічого не читав з висхідного сервера.

Я насправді не міг відтворити це на:

2011/08/20 20:08:43 [notice] 8925#0: nginx/0.8.53
2011/08/20 20:08:43 [notice] 8925#0: built by gcc 4.1.2 20080704 (Red Hat 4.1.2-48)
2011/08/20 20:08:43 [notice] 8925#0: OS: Linux 2.6.39.1-x86_64-linode19

Я налаштував це у своєму nginx.conf:

proxy_connect_timeout   10;
proxy_send_timeout      15;
proxy_read_timeout      20;

Потім я встановлюю два тестових сервера. Один, який би просто таймаутував на SYN, і той, який би приймав з'єднання, але ніколи не відповідав:

upstream dev_edge {
  server 127.0.0.1:2280 max_fails=0 fail_timeout=0s; # SYN timeout
  server 10.4.1.1:22 max_fails=0 fail_timeout=0s; # accept but never responds
}

Потім я надіслав одне тестове з'єднання:

[m4@ben conf]$ telnet localhost 2480
Trying 127.0.0.1...
Connected to localhost.
Escape character is '^]'.
GET / HTTP/1.1
Host: localhost

HTTP/1.1 504 Gateway Time-out
Server: nginx
Date: Sun, 21 Aug 2011 03:12:03 GMT
Content-Type: text/html
Content-Length: 176
Connection: keep-alive

Потім переглянув error_log, який показав це:

2011/08/20 20:11:43 [error] 8927#0: *1 upstream timed out (110: Connection timed out) while connecting to upstream, client: 127.0.0.1, server: ben.dev.b0.lt, request: "GET / HTTP/1.1", upstream: "http://10.4.1.1:22/", host: "localhost"

потім:

2011/08/20 20:12:03 [error] 8927#0: *1 upstream timed out (110: Connection timed out) while reading response header from upstream, client: 127.0.0.1, server: ben.dev.b0.lt, request: "GET / HTTP/1.1", upstream: "http://127.0.0.1:2280/", host: "localhost"

А потім access.log, який очікує тривалість очікування 30-х років (10 + 20):

504:32.931:10.003, 20.008:.:176 1 127.0.0.1 localrhost - [20/Aug/2011:20:12:03 -0700] "GET / HTTP/1.1" "-" "-" "-" dev_edge 10.4.1.1:22, 127.0.0.1:2280 -

Ось формат журналу, який я використовую, який включає окремі тайм-аути вгору за потоком:

log_format  edge  '$status:$request_time:$upstream_response_time:$pipe:$body_bytes_sent $connection $remote_addr $host $remote_user [$time_local] "$request" "$http_referer" "$http_user_agent" "$http_x_forwarded_for" $edge $upstream_addr $upstream_cache_status';

Проблема полягає в тому, що я б очікував побачити деякі запити, які закінчуються після закінчення proxy_read_timeout + proxy_connect_timeout, або майже за такий проміжок часу, якщо служба застрягла і не прийме з'єднань, коли Nginx намагається отримати доступ до неї, але перш ніж Nginx зможе отримати тайм-аут - він звільняється і починає обробку, але занадто повільний, і Nginx б перервав через час очікування читання.

Тайм-аут підключення означає, що TCP зупиняється при рукостисканні (наприклад, SYN_ACK не було). TCP повторно спробує надіслати SYN, але ви дали лише 2 секунди. до Nginx перейти використовувати інший Сервер, тому у нього просто немає часу на повторне надсилання SYN.

UPD. : Не вдалося знайти в документах, але tcpdump показує, що є 3 сек. затримка між 1-ою відправленою SYN та 2-ю спробою надіслати SYN.