Коли RAID вартий своєї проблеми?


14

У нашому магазині ми сумлінно використовуємо RAID на всіх наших робочих станціях, ймовірно, лише тому, що це, мабуть, так і потрібно зробити. Я говорю про робочі станції для наукового моделювання, використовуючи бортові мікросхеми RAID.

Але я чув багато історій жахів RAID. У самому Stackoverflow відбувся відключення, спричинене опосередковано контролером RAID .

RAID захищає вас від дуже вузького типу відмов - фізичного збою диска -, але в той же час він також вносить додаткові моменти відмови. Можуть виникнути проблеми з RAID-контролером, і часто є. Принаймні, в нашому магазині здається, що RAID-контролери виходять з ладу принаймні так часто, як і самі диски. Ви також можете легко зіпсувати щось із процесом заміни несправного накопичувача.

Коли RAID вартий своєї проблеми? Хіба ви не отримаєте кращої віддачі від інвестицій, додавши більше резервів до резервних рішень? Який тип RAID в цьому плані кращий чи гірший?

Редагувати: я змінив назву з оригіналу "Чи варто RAID клопоту?", Тому це звучить менш негативно


3
Коли ви говорите про використання RAID на робочих станціях, мені цікаво, що ви маєте на увазі під RAID. RAID, який постачається як частина чіпсету материнської плати настільного класу, насправді не є RAID. Real RAID - це дорогий (кілька сотень, може, тисяч доларів) варіант, який зазвичай реалізується як PCI-карта певного типу. Подумайте Adaptec або LSI, а не Обіцяйте.
Джейсон Тан

1
Ви маєте рацію, ми використовуємо якесь бортове рішення чіпсетів. Тож, можливо, моє питання слід трохи змінити: чи варто дешевий RAID неприємностей?
amarillion

Відповіді:


17

Не хвилюйтесь, RAID не використовується в усьому світі бізнесу через групову думку! Шанс виходу з ладу гідних RAID-контролерів набагато, набагато нижчий, ніж шанс збою диска. Я не пригадую, щоб у реальному житті бачив, як RAID-контролер вийшов з ладу, в той час як я бачив, як багато дисків гинуть, як в офісі, так і в центрі обробки даних.

PS: Я бачу ваші теги. RAID - це не резервне копіювання! :)


1
Правильно, це не резервне копіювання. То тоді це надмірність? Тож це справді все про високі терміни? Якщо вам не потрібно п’ять дев'яток, вам справді не потрібен RAID?
amarillion

6
Ні, мова йде про наявність. Збивати машину, коли ви хочете, це добре. Маючи єдиний жорсткий диск, вирішити зняти машину - це не. Правильне використання RAID запобігає цьому.
Метт Сіммонс

9
@amarillion. Нічого собі, це небезпечні настрої. Скільки у вас досвіду із жорсткими дисками? RAID дуже потрібен навіть для 2-х дев'яти рівнів надійності (тим більше, що більше жорстких дисків у суміші), а сам RAID точно не добереться до 5 дев'яти, для цього вам знадобляться зайві центри обробки даних, принаймні. Навіть тоді це марення, 5 дев'яток - це управління фантастичною землею BS, це менше години простою на десятиліття (~ 5 хв / рік). Навіть IP-магістралі не мають цього.
Клин

4
@amarillion: Деякі мої клієнти мають розробників на платних сайтах $ 200 / год. Або робітники, що реагують на життєві чи смертні ситуації. Зрив працівників на звичаї жорсткого диска на 80 доларів здається мені дещо тупим, YMMV.
duffbeer703

3
Ні. RAID захищає вас від відмови жорсткого диска. Це не захищає вас від 'rm -rf /'. ЦЕ для чого резервні копії!
Alex J

9

ZFS by SUN (також частина OpenSolaris; Apples OSX - наразі лише для читання) не тільки здійснює рейд на різних рівнях, але завжди перевіряє, чи є дані, записані на диск, насправді є. послідовність є ключовою! RAID марний, якщо ви не можете покластися на його цілісність . Виберіть гідний RAID-контролер (я вважаю за краще HP) та обчистіть RAID, щоб періодично знаходити помилки.

З іншого боку, Softwareraid (як ZFS) робить вас більш незалежними від обладнання, якщо контролер RAID помер, і ви не можете отримати точну заміну.


8

Завжди. Диски дешеві, ваша інформація - ні. Але використовуйте програмний RAID, тому у вас є можливість рухатися вперед або змінювати обладнання згодом (повірте, вам це знадобиться). А також використовуйте файлову систему контрольної суми, як ZFS, для захисту від мовчазної корупції даних (що, напевно, великі диски в наш час).


8

Тим із вас, хто каже, що не будете використовувати апаратний RAID, оскільки якщо контролер вийшов з ладу і ви не зможете отримати ідентичну заміну накрученого, ви підете про це неправильним шляхом.

  1. Якщо продовження часу є для вас критичним, НЕ варто купувати дешеве обладнання. Як було сказано раніше, використовуйте хороший рейдовий контролер, HP, LSI, Dell тощо.

  2. Якщо контролер був придбаний у виробника комп'ютерів, тобто сервера Dell, з контролером RAID Dell, Dell розповість вам, як довго вони будуть зберігати ці деталі, як правило, це протягом 4+ років від EOL цього сервера.

  3. Якщо знов хтось швидко працює, це означає, що ви не можете чекати доставки, тоді вам слід придбати другий запасний контролер для себе, незалежно від того, хто це зробив.

  4. Якщо ви налаштовуєтесь як RAID 1, іноді ви можете взяти один із цих дисків і перекинути їх на звичайний контролер для відновлення даних. Якщо це важливо для вас, підтвердьте / протестуйте це у своєму контролері, перш ніж потрапити в критичну ситуацію.

Апаратний RAID врятував мій зад 2 рази. Після того, як на сервері електронної пошти один із накопичувачів вийшов з ладу, я отримав сповіщення електронною поштою від програмного забезпечення для моніторингу рейду на цій машині, зателефонував Dell і на наступний день отримав новий привід, вимкнув його і він відновив все самостійно. ZERO простої на цьому

По-друге, виникла помилка накопичувача на старому файловому сервері, який було заплановано на заміну через 6 місяців. Контролер продовжував працювати, і ми перемістили заміну сервера до цього тижня. Купив новий привід (оскільки він був поза віянням) та знову простої в ZERO.

Раніше я використовував набіги на програмне забезпечення, і вони просто не відновлюються так добре, як апаратні засоби. Вам потрібно перевірити налаштування, програмне забезпечення або обладнання, щоб переконатися, що воно працює і знати, що робити, коли коричневий матеріал потрапляє на вентилятор.


3
Люди схильні розглядати RAID як вид страхування. Якщо вони не отримають «нещасний випадок», то переваги RAID (страхування) ніколи не здаються очевидними. Дякую за те, що ви поділилися своєю історією, як багато людей (я думаю) сприймають RAID з легкістю, тому що якщо вони ніколи не мають поганого досвіду, навіщо вкладати гроші в те, що може не статися? Це має бути уроком для всіх, хто читає: надійний, апаратний RAID-контролер врятує вашу дупу на цьому мільйон / мільярд шансів. Не залишайте це випадковістю; завжди використовуйте хороший апаратний RAID-контролер, особливо для серверів.
osij2is

6

Відмови Harddrive набагато частіше трапляються на сервері, ніж робоча станція на робочому столі ...

Ви не можете просто сказати "додавання більшої кількості балів", не враховуючи ймовірність цього відмови. Тим більше, що ці менш вірогідні точки несправності спеціально створені для підриву більш ймовірної аварії на жорсткому диску. Як ви вже сказали, ви в основному створили помилку Паскаля, що нагадує ставки.

Більшість систем RAID на материнських платах настільних комп’ютерів - це гібриди програмного забезпечення / апаратних гібридів. Більшість робіт виконується в його драйвері програмного забезпечення. ІМХО - це лайно, яке використовується для продажу енергоспоживачам.

З іншого боку, хороший власний апаратний RAID є досить надійним, і він має апаратне забезпечення, щоб зробити свою справу без (незважаючи на це?) Операційної системи. Але ці коштують дорого, оскільки у справжнього обладнання є резервне копіювання акумуляторних батарей та повний масив XOR'ing для обчислення контрольних сум тощо. Навіть дорожче, якщо це робиться за допомогою SCSI.

Підсумок: Якщо ви працюєте на RAID-системах, що базуються на материнській платі, то ні, цього не варто.


3
Колега керує великим шкільним ІТ-середовищем зі 180 000 робочими станціями з першокласною службою підтримки. 7% робочих столів потребують заміни обладнання протягом 5-річного життєвого циклу, а 85% цих замін - це жорсткі диски.
duffbeer703

Так, але якщо робоча станція знизиться, ви просто увійдете в систему користувача на іншій машині, поки ви виправляєте зламану. Завдяки тому, що багато робочих станцій, їхня спроба бути центральним репо-файлом. Цікаво, як виглядатиме статистика зі 180 000 серверами.
Апе-інаго

1
Ти правий на багато обставин - але не для всіх. За сценарієм мого друга, багато з цих ПК знаходяться в задній частині аудиторій, і якщо вони зламані, у цього класу немає комп’ютера, і це велика справа. На моїй роботі у нас є запасні робочі станції і нас це зовсім не цікавить.
duffbeer703

5

Хоча резервні копії та RAID - це рішення різних проблем, більшість "RAID-проблем" дуже схожі на найбільш поширену проблему резервного копіювання (тобто ніхто не перевіряє відновлення) - ніхто не перевіряє відновлення системи. Інші проблеми з RAID часто є прямим результатом, коли люди не розуміють, що він робить, а що не робить. Наприклад, багато людей думають, що RAID гарантує цілісність своїх даних - це не так.

На робочих станціях, якщо ви використовуєте RAID-0 для підвищення продуктивності додатків, пов’язаних з IO, або RAID-1/5/6, щоб вчений працював до 100 доларів на годину, коли її жорсткий диск становить 80 доларів, ви використовуєте RAID належним чином. Просто не плутайте надмірність диска з резервною копією , і пройшли перевірені процедури для того, щоб ваші ІТ-хлопці справлялися з відновленням.


Гарна примітка для робочих станцій. Потреби робочої станції абсолютно інші, ніж потреби сервера. І Н. емфатична та на «..don't заплутувати диск надмірності резервного копіювання».
osij2is

4

Існує два типи RAID

  • Той, який є дешевим інтегрованим. Це НЕ справжній рейд, реальну роботу виконує програмне забезпечення (спеціальний драйвер виконує обчислення рейду). Вам слід уникати цього.
  • Інший коштує дорого, але те, що ви отримуєте, - це справжній наліт. Якщо ви можете собі це дозволити, це коштує грошей.

У деяких операційних системах є гарне програмне рішення для рейду (це не має нічого спільного з шаленими картами, згаданими вище). Наліт на програмне забезпечення Linux особливо хороший, його ефективність справді хороша.

Рейд може тільки підвищити надійність, це не резервне рішення. Файли можна видалити випадково, несправний диск може повернути (і дублювати) погані дані на інші диски в рейдовому масиві, тому справжнє рішення для резервного копіювання все ж потрібне.


4

RAID чудово підходить для безперервного часу, але він не замінює резервне копіювання. Як колись колега прокоментував: "Ви знаєте, що" О, ш! Т "момент, коли ви щось випадково видалили? RAID означає, що ви одночасно отримаєте" О, ш! Т "більше, ніж один диск".

Це сказало, що в той день, коли ти запускаєш голову в кабінет свого начальника і кажеш їй: "До речі, в минулий вечір сервер бази даних зазнав аварії на жорсткому диску - ми ніколи не опускалися вниз, він закінчив перебувати на запасні о 5 ранку і Я відправив поганий диск з гарантією "- тоді RAID є безцінним.


2

Який рівень відмов на жорстких дисках та рейдових контролерах? Відмова на рейдовому контролері повинна бути значно нижчою, ніж на дисках. Якщо у вас високий рівень відмов, можливо, ви захочете подивитися на своє оточення, наприклад, статичні розряди, які можуть спричинити проблеми.

Для робочих станцій ви можете скористатись програмним рейдом, як запропонував Alakdae, оскільки вам не доведеться турбуватися про збереження запасів точного апаратного контролера. Однак у вас повинна бути збережена вся життєво важлива інформація на ваших серверах, які мають апаратний рейд і резервні копії на різних носіях.

Виробники апаратного забезпечення сервера підтримують рейдер-контролери, тому навіть якщо це старший контролер, ви, як правило, все-таки можете їх отримати від них (якщо це коштуватиме вам досить копійки).


2

Здається, що багато з вищезазначених публікацій забувають початкове запитання і просто дискутують про RAID 1. Питання було "Коли RAID вартий клопоту?" Ну, це залежить ... Якщо ваші розробники роблять багато даних для читання та запису даних на своїх робочих станціях, ніж конфігурація RAID 0 того вартує. Додавання більшої кількості приводів до цього RAID 0, звичайно, підвищить швидкість та продуктивність, АЛЕ збільшить ймовірність виходу з ладу (диска чи контролера).

Я працюю в школі медсестер, де розгорнуто близько 500 машин Dell, і майже жодна з них не використовує будь-якого RAID. Мені здається, що мій тип користувачів не побачить достатньо користі, щоб додати складність системи RAID на кожній машині. Я більше хвилююся щодо відновлення даних та дискових зображень, ніж швидкості RAID 0 або надмірності RAID 1. Звичайно, я не говорю про наші виробничі сервери, це вже інша історія. Відновлення даних є вирішальним, ми покладаємось на інші методи резервного копіювання, щоб врахувати більше, ніж просто надмірність диска. Будь-який тип RAID не допоможе вам, якщо користувач випадково видаляє файл.

Отже, щоб відповісти на ваше запитання IMHO ... RAID 0 на робочій станції варто того, коли користувачеві потрібна продуктивність. (Переконайтесь, що всі дані імпорту є резервними копіями.) Я впевнений, що ви можете перевірити пропускну здатність даних у існуючих налаштуваннях, щоб побачити, чи є вони адекватними. RAID 1 слід використовувати в середовищі сервера, де доступні RAID-контролери вищого класу. Не варто хессел на робочій станції, оскільки це ускладнює розгортання, зображення диска та ремонт. Багато з цих робочих станцій поставляються з RAID-контролерами, вбудованими на материнську плату. Це добре відчуття, якщо материнська плата виходить на машину, я завжди можу поставити накопичувач в іншу систему для отримання даних.


2

Програмне забезпечення RAID Linux є чудовим, і воно фактично б'є вниз апаратними RAID руками вниз. Він також має кілька оптимізацій, які можуть бути корисні для робочої станції. Наприклад, він може читати різні речі на кожному диску одночасно, ефективно подвоюючи час зчитування випадкового доступу, що є звичайним випадком використання на відміну від операцій, пов'язаних зі швидкістю передачі, оптимізованих RAID 0 .

Що стосується надійності, то це дуже доглянута частина ядра Linux, яку використовують мільйони, вона дуже добре обробляє збої в апаратному забезпеченні, тому це явно виграш, що стосується доступності. Я використовував його на своїх персональних робочих станціях, а також на декількох десятках серверів низького класу протягом багатьох років, на деяких досить завантажених, і ніколи не міг пояснити це жодною помилкою. Тим часом я пережив добрий десяток зламаних дисків.

(Тим не менш, апаратні RAID-карти мають інші функції, такі як кеш-пам'ять, записаний на батареї. В основному це помножує швидкість запису випадкових синхронізованих дисків на десять. Це абсолютно необхідно для баз даних, напевно, досить марних для робочих станцій.)


Я сподіваюся, що він подвоїть читання випадкового доступу / швидкість /, а не читання / час / :)
Білл Вайс

1

У мене просто не вийшло контролерів RAID на двох (однакових) серверах, оскільки у цих двох машин у нас не було жодної помилки на жорсткому диску.

Я думаю, що RAID на робочому столі - це погана ідея, дешеві контролери RAID, які ви збираєтеся поставити на ці машини, вийдуть з ладу задовго до фактичного жорсткого диска.

На серверах, можливо, я більше не буду довіряти RAID-контролерам, переконайтеся, що у вас є запасна машина і хороші резервні копії.


1

Я розробник, і всі наші робочі станції використовують RAID для внутрішніх накопичувачів. RAID 0. Це, безумовно, варто. Ви ніколи не хочете повертатися до збирання з одного диска 7200RPM, як тільки ви спробували пару 15000.
У мене виникли проблеми, якщо компіляція в рази скорочує саме RAID або 15K диск. Я не знаю, для компіляції одного швидкого диска може бути точно така ж продуктивність. Однак, один привід SAS не особливо великий для сучасного ПК, тому дорогий на борту RAID все ще має місце. Це, і я сумніваюся, RAID коли-небудь зашкодить продуктивності системи.
Я думаю, що такий тип RAID, безумовно, підходить для робочої станції, і, ймовірно, найкраще це зробити, використовуючи недорогі бортові контролери. З боку сервера більшість наших серверів мають деяку форму RAID-масиву для диска ОС, і дані потім знаходяться на окремому масиві якоїсь відповідної форми. Я не знаю про наші виробничі сервери, але наші сервери розробників (яких у нас досить багато) ніколи не виходили з ладу контролера, але у нас накопичувачі виходили з ладу. В одному випадку у нас половина OS масиву вийшла з ладу у вікні SQL, тоді як він відновлювався, інший диск не вдався! Іноді RAID1 просто недостатньо!


1
Мені доводиться телефонувати на цю службу. RAID 0 марний для робочої станції розробника. RAID 0 в кращому випадку подвоює швидкість передачі; він нічого не робить для випадкового доступу. Здогадайтесь, що роблять розробники ... читайте і записуйте безліч крихітних файлів, а іноді й великих. Єдиною робочою станцією, яка була б корисною, була б робота графічного дизайнера, що займається редагуванням відео, де потрібно отримати всі ГБ / с, які ви можете отримати.
niXar

Це може бути правдою, я не порівнював продуктивність одного 15-саксового накопичувача з продуктивністю двостороннього рейду 0. Я оновив свою відповідь.
pipTheGeek

1
Це залежить від того, що роблять ваші розробники. У нас є хлопці, які працюють із великими наборами даних, які помічають значне покращення продуктивності, особливо під час компіляцій. Хлопці GIS також помічають покращення з RAID 0.
duffbeer703

Перехід від 7.2k до 15k приводу означатиме значну швидкість. З Raid 0.
виграєте

Невже один SSD був би дешевшим та швидшим сьогодні?
Дентрасі

1

Для ваших наукових робочих станцій, можливо, варто того, якщо ці системи краще працюють зі своїми даними, що зберігаються локально, на відміну від спільного доступу до файлового сервера. Для загального населення, проте я б сказав, що ні. Не варто клопоту і головного болю, коли все, що вам справді потрібно, - відновити дані, які слід зберігати на акціях.


1

RAID корисний лише тоді, коли ви абсолютно позитивно не можете змусити сервер несподівано зійти. Ми використовуємо RAID на всіх наших серверах у нашому центрі обробки даних, де немає іншої форми надмірності. Наприклад, ми не використовуємо RAID на своїх веб-серверах, оскільки ще 10 працюють.

Тест лакмусу "якщо диск зламається посеред ночі і він не може чекати до 9 ранку, йому потрібен RAID"


Є й інші контексти, де це має сенс - наприклад, якщо у вас немає швидкого та простого способу відновлення машини до її колишнього стану.
cp.engr

1

RAID вартий клопоту, коли у вас є контролер, підтримуваний батареєю.

Для серверних додатків, які часто використовують файли журналу fdatasync () (що не є рідкістю в базах даних) для довговічності, ви будете в кінцевому підсумку писати ті самі блоки знову і знову. Це знищить продуктивність IO, якщо у вас немає контролера з батареєю.

Якщо у вас є контролер з батареєю, багато записів навіть не дістаються до дисків, а просто залишаються в пам'яті, поки їх не замінить інша запис. Це гарна річ.

Надлишок - це бонус, але не є істотним, оскільки важливі речі повинні бути надлишковими на системному рівні.


1

Дешеві реалізації RAID жахливі.

Ви обираєте, з точки зору надійності:

1) HP DL-сервери з їх апаратним RAID.
2) 3Ware RAID-карти.
3) ZFS
4) Linux Raid Software

Все інше вимагає неприємностей, і справді це може призвести до зниження загальної надійності, ніж рішення, яке не має RAID.

Подумайте, що робити, якщо ваш контролер вийшов з ладу, а виробник не працює.

Поміркуйте, чи можна відновитись після очевидних збоїв подвійного диска, викликаних проблемами живлення / кабелів.

Це два приклади серед сотень.


1

Для робочих станцій RAID, мабуть, не варто цього порівняно з наявністю нової системи, на якій можна відновити дані ...

Багато хто говорив про RAID 0 ... це не для покращення доступності. Ви подвоюєте шанси на збій гучності, оскільки, як тільки один привід гине, ви втрачаєте всю справу. RAID 0 - це лише гра з швидкістю доступу до читання / запису в томі та надання більшої кількості пам’яті. Єдиний спосіб, що це може допомогти в бізнес-середовищі, - це взяти два RAID 0 і відобразити їх як RAID 1.

Як було зазначено, RAID не є резервним рішенням.

RAID також не є ідеальним. Я думаю, що цей пост із блогу цього хлопця щось підводить підсумки того, як я ставлюсь до RAID та коли це варто: Думати про RAID?

На робочій станції ви повинні мати можливість змусити одну людину використовувати іншу систему під час впровадження заміни. Навіщо використовувати RAID? Його дані повинні зберігатися на сервері, де централізовано управління, цілісність та резервне копіювання. Робоча станція повинна бути налаштована так, щоб її можна було періодично модернізувати або змінювати, як дозволяють фінанси, а RAID - це ще один шар витрат і головного болю для управління (плюс проблеми з використанням електроенергії та опаленням із додаванням приводів та накладенням повітряного потоку). У більшості випадків для підприємств, мабуть, набагато вигідніше перекласти гроші з RAID-картки на більший привід, і якщо ви використовуєте бортовий RAID, то у вас все ще будуть проблеми, оскільки це, як правило, пов'язане з RAID формату на материнську плату (і це все одно не є правдивим RAID ... це є в пошукових запитах Google як "фальшивий рейд".


0

Навіщо турбуватися на робочому місці? Напевно у вас всі домашні каталоги та дані зберігаються централізовано. Саме там ви хочете скористатися рейдом.


0

Якщо ви турбуєтесь про збій контролера накопичувача, то вам також потрібно врахувати збій сервера - вентилятори, материнська плата, оперативна пам'ять, мережа .., а потім вам також потрібно врахувати вихід з ладу маршрутизатора, і кабелювання, і потужність ... і вам також потрібно врахувати збій даних у центрі даних (повені, пожежі, помилках людини), а потім вам потрібно врахувати вихід з ладу зовнішньої мережі (обрізання кабелів - весь час у деяких місцях!).

Коротше кажучи, ви можете так сильно турбуватися про час простою веб-сайту, що ніколи не хочете розміщувати що-небудь в Інтернеті! Або ви можете зібрати ризик відмови від вартості надмірності та отримати набагато більш реалістичний підхід. І з усіх речей, які я перерахував, це жорсткий диск єдиною найбільш ймовірно точка відмови.

Поруч з людською помилкою, тобто. Хто набирав " shutdown -h now", коли хотів перезавантажити .... :(


0

Моє велике занепокоєння - це диски, оскільки здається, що ви не можете придбати чепі:

Основні нотатки продавця:

'Більшість контролерів RAID призначені для таймауту заданої команди, якщо дисковий накопичувач не відповідає в заданий час. Результатом буде те, що накопичувач з’явиться в режимі офлайн або буде позначено погано, а споживачеві буде надано попередження. Накопичувачі корпоративного класу (або диски, призначені для середовищ RAID), мають обмеження повторної спроби, перш ніж сектор позначається поганим. Цей обмеження спроби дозволяє приводу реагувати на RAID-контролер протягом очікуваного часового періоду. У той час як настільні накопичувачі можуть працювати з RAID-контролером, масив буде поступово виходити з лінії, коли диск накопичується, і це може призвести до втрати даних. '

Мені це здається божевільним, ще одна суть, яка забезпечує, що постачальники дисків отримають багато доходів від людей, які «не знають краще». Однак я прочитав, що Google зробив довідку (не можу її знайти), що свідчить про відсутність різниці в надійності приводу між двома "класами", пропонованими постачальниками сховищ. Я сумніваюся, що Google використовує апаратні рейдерські контролери у своєму бежевому флоті.

Можливо, mdadm (в Linux-рейді) має налаштування, які можна використовувати для боротьби з більш нетерплячими налаштуваннями в прошивках настільних дисків?

Можливо, насправді всі платять за гарантію через вичерпаний термін "тайм-аут" в прошивці контролера?

Використовуючи наш веб-сайт, ви визнаєте, що прочитали та зрозуміли наші Політику щодо файлів cookie та Політику конфіденційності.
Licensed under cc by-sa 3.0 with attribution required.