які часові очікування кубернетів / локтей для запитів http?

У мене є Java-API (приймає запити HTTPS_, упаковані в зображення докера, а потім він розгортається за допомогою кластеру k8s поверх EC2. Майстер EC2 має ELB попереду.

Я можу зробити запити POST до ELB, щоб потрапити на цей Java API.

Іноді мій запит на згортання сидить у очікуванні відповіді назавжди, навіть коли я бачу журнали кубе, обробка пройшла успішно.

Це трапляється для великих запитів близько 40 хвилин, запити в 25 хвилин отримують відповідь добре.

Де ви думаєте, де може бути час очікування? якісь конкретні параметри конфігурації, на які я повинен дивитись?

client (curl) -> ELB -> k8s -> pod запускає зображення Java api

Я думав, що це буде доречно (я не встановлюю IdleTimeout) для ELB, але документи кажуть, що за замовчуванням 60-х, хоча я можу отримати відповідь на 20-хвилинні запити "ConnectionSettings": {"IdleTimeout"}

Так само, як Пампі згадував у своїй відповіді, час очікування ELB вважає лише час простою. Це може становити від 1 до 4000 секунд, а за замовчуванням встановлено 60 секунд. Ви можете змінити час очікування за допомогою CLI або консолі.

Нижче наводиться приклад використання CLI для зміни його на 5 хвилин:

aws elb modify-load-balancer-attributes --load-balancer-name my-loadbalancer --load-balancer-attributes "{\"ConnectionSettings\":{\"IdleTimeout\":300}}"

Джерело: док

Оскільки ви завантажуєте великі файли за 20-40 хвилин, я все-таки рекомендую інші пропозиції щодо використання брокера повідомлень на зразок RabbitM або Kafka для асинхронного керування завантаженням та обробкою.

Час очікування ELB рахується лише для "простою" . Це означає, що поки ваше завантаження все ще працює, воно не працює. Коли файл прибув на ваш сервер, вам потрібно виміряти час, поки ваш сервер відповість.

Коли це правильно встановлено, сервер обробить запит і поверне відповідь клієнтові. За замовчуванням 60 секунд, ваш сервер має ці 60 секунд для обробки завантаженого файлу та повернення відповіді.

Можливо, вашому серверу потрібно менше 60 секунд, щоб обробити завантаження 25 хвилин, але більше, щоб обробити завантаження за 40 хвилин?

Чому ви не завантажуєте файл і не натискаєте на подію брокеру повідомлень, як rabbitMQ. Виконайте ETL у файлах, використовуючи об'єкт kubernetes Job / CronJob асинхронно і відповідно повідомте клієнта.

Таким чином, вам не доведеться блокувати вхідний запит на довший час. після публікації події після публікації події надішліть клієнту повідомлення про те, що запит обробляється.

25 хвилин - це досить довгий запит HTTP. Я цілком згоден з П Екамбарамом.

Я думаю, що краще зробити кінцеву точку асинхронною і відповісти, як тільки файл завантажується (повинен бути швидшим), в той же час використовувати повідомлення з середнім програмним забезпеченням (RabbitMQ, Kafka або NATS) або Websocket, які підштовхують подію файл успішно імпортується та обробляється.

 aws elb modify-load-balancer-attributes --load-balancer-name my-loadbalancer --load-balancer-attributes "{\"ConnectionSettings\":{\"IdleTimeout\":300}}"

використовуйте це в cLI, щоб змінити час очікування на 5 хв