Я будую додаток за допомогою Flask, але я не знаю багато про WSGI і його базу HTTP, Werkzeug. Коли я починаю подавати Flask-додаток з процесами gunicorn і 4 робочих, чи означає це, що я можу обробляти 4 одночасних запити?
Я маю на увазі паралельні запити, а не запити за секунду чи щось інше.
Відповіді:
При запуску сервера розробки - це те, що ви отримуєте, запустивши app.run() , ви отримуєте єдиний синхронний процес, що означає щонайменше 1 запит обробляється за один раз.
Просуваючи Gunicorn перед ним у його конфігурації за замовчуванням та просто збільшуючи кількість --workers, ви отримуєте, по суті, кількість процесів (керованих Gunicorn), кожен з яких веде себе як app.run()сервер розробки. 4 робітники == 4 одночасні запити. Це відбувається тому, що Gunicorn syncза замовчуванням використовує включений тип робітника.
Важливо зазначити, що Гунікорн також включає асинхронних працівників, а саме eventletі gevent(і також tornado, але це найкраще використовується в рамках Торнадо, здається). Вказавши одного з цих асинхронних працівників із --worker-classпрапором, Gunicorn керує низкою асинхронних процесів, кожен з яких керує своєю сукупністю . Ці процеси не використовують потоки, а замість них підпрограми. В основному, в межах кожного процесу одночасно може відбуватися лише 1 річ (1 потік), але об'єкти можна "призупинити", коли вони очікують завершення зовнішніх процесів (подумайте, запити бази даних або очікування мережевого вводу / виводу).
Це означає, що якщо ви використовуєте одного з асинхронних працівників Gunicorn, кожен працівник може одночасно обробляти багато, ніж один запит. Від того, скільки робітників найкраще, залежить від характеру вашого додатка, його оточення, апаратного забезпечення, на якому він працює тощо. Більш детальну інформацію можна знайти на сторінці дизайну Gunicorn та примітках про те, як гевен працює на його вступній сторінці.
В даний час існує набагато простіше рішення, ніж ті, що вже надаються. Під час запуску програми потрібно просто передати threaded=Trueпараметр app.run()виклику, наприклад:
app.run(host="your.host", port=4321, threaded=True)Інший варіант, згідно з тим, що ми можемо побачити в документах werkzeug , - це використовувати processesпараметр, який отримує число> 1, що вказує максимальну кількість одночасних процесів для обробки:
- різьблення - чи повинен процес обробляти кожен запит окремим потоком?
- процеси - якщо більше 1, то обробляйте кожен запит у новому процесі до максимальної кількості одночасних процесів.
Щось на зразок:
app.run(host="your.host", port=4321, processes=3) #up to 3 processesБільше інформації про run()метод тут , а також повідомлення в блозі, яке привело мене до пошуку рішення та посилань на api.
Примітка: у документах Flask щодо run()методів зазначено, що використання його у виробничому середовищі не рекомендується, оскільки ( цитата ): "Хоча легкий і простий у використанні, вбудований сервер Flask не підходить для виробництва, оскільки він не масштабує добре . "
Однак вони вказують на свою сторінку « Параметри розгортання» для рекомендованих способів зробити це під час виробництва.
Ні - ви точно можете впоратися з цим більше.
Важливо пам’ятати, що глибоко в глибині душі, якщо припустити, що ви працюєте з однією основною машиною, процесор дійсно виконує лише одну інструкцію * за один раз.
А саме, процесор може виконувати лише дуже обмежений набір інструкцій, і він не може виконувати більше однієї інструкції за годинник (багато інструкцій займають навіть більше 1 галочки).
Тому найбільша паралельність, про яку ми говоримо в галузі інформатики, - це програмне забезпечення. Іншими словами, існують шари реалізації програмного забезпечення, які абстрагують процесор нижнього рівня від нас і змушують думати, що ми одночасно виконуємо код.
Ці "речі" можуть бути процесами, що представляють собою одиниці коду, які одночасно запускаються в тому сенсі, що кожен процес думає, що він працює у своєму власному світі зі своєю власною загальною пам'яттю.
Інший приклад - це потоки, які є одиницями коду всередині процесів, які також дозволяють одночасно.
Причина, коли ваші 4 робочі процеси зможуть обробити більше 4 запитів, полягає в тому, що вони запускають потоки для обробки все більше запитів.
Фактичний ліміт запиту залежить від обраного HTTP-сервера, вводу / виводу, ОС, обладнання, мережевого підключення тощо.
Удачі!
* інструкції - це основні команди, які може виконувати процесор. приклади - додайте два числа, переходьте з однієї інструкції на іншу